Le "social scoring" ou notation sociale est un concept de plus en plus présent dans notre société numérique.
Il s'agit d'un système de notation et de classement des individus en fonction de leur comportement et de leurs interactions sur les réseaux sociaux, sites web, etc.
Cette pratique soulève de nombreux enjeux et implications, tant sur le plan de la vie privée que sur celui de la confiance et de la fiabilité des relations sociales.
Origines et finalités du social scoring
Le social scoring trouve ses origines dans la nécessité d'évaluer la solvabilité des individus et des entreprises.
Aux États-Unis, par exemple, des systèmes de notation comme la note Fico ou le relevé Schufa en Allemagne ont été mis en place pour évaluer la crédibilité financière des agents économiques.
Cependant, les finalités du social scoring se sont rapidement élargies pour inclure d'autres aspects du comportement et de l'interaction sociale. Aujourd'hui, des entreprises comme Uber ou Airbnb notent les clients et les utilisateurs en fonction de leur comportement et de leur fiabilité.
Des compagnies d'assurances peuvent même baser leurs primes sur les informations trouvées sur les réseaux sociaux concernant leurs clients.
En Chine, le gouvernement a expérimenté un système de contrôle des comportements et de notation des acteurs économiques, censé mesurer leur "degré de civilisation".
Le crédit social.
Ce système s'appuie sur le contrôle du comportement dans l'espace public, la moralité des recherches sur internet et l'appréciation du contenu partagé sur les réseaux sociaux et le web.
Avec le "crédit social", la Chine classe les "bons" et les "mauvais" citoyens
Les données et les outils du social scoring
Les réseaux sociaux et les applications sont des sources inépuisables de données pour le social scoring.
En octobre 2020, près de 53% de la population mondiale était présente sur les plateformes sociales.
Les interactions, les opinions politiques, les comportements, les intérêts et les préférences des utilisateurs, le respect des règles de conduite dans l'espace public, et même les recherches effectuées en ligne sont autant d'informations qui peuvent être collectées et analysées.Les résultats de cette évaluation sont utilisés pour attribuer une note ou un score à chaque individu.
Les outils d'analyse de données sont de plus en plus puissants, permettant de traiter de grandes quantités d'informations rapidement et efficacement.
Les algorithmes utilisés pour évaluer et noter les individus sont de plus en plus sophistiqués, mais ils sont également sujets à des biais et des erreurs.
Les bases de données contenant ces informations sont également vulnérables aux attaques et aux violations de la vie privée.
Les implications pour les individus
Le social scoring a des implications majeures pour les individus, tant sur le plan de la vie privée que sur celui de la confiance et de la réputation.
Être noté et évalué en fonction de son comportement en ligne peut avoir des conséquences importantes sur la vie professionnelle et personnelle.
Certaines entreprises peuvent refuser de vendre leurs produits ou de fournir leurs services à des utilisateurs qui ont partagé des contenus racistes, par exemple.
Et/ou les individus peuvent être exclus de certains établissements ou voir leurs prêts bancaires, primes d'assurance augmenter en fonction de leur comportement en ligne.
Limiter l’accès à certains emplois ou logements, ou même l’accès à certains pays.
Les implications pour les entreprises
Les entreprises peuvent également être affectées par le social scoring.
Les clients peuvent noter et commenter leurs produits et services, ce qui peut influencer la réputation et la confiance des consommateurs.
Les entreprises doivent donc être attentives à leur présence en ligne et à la manière dont elles interagissent avec les utilisateurs.
D'un autre côté, les entreprises peuvent également utiliser le social scoring pour évaluer la solvabilité et la fiabilité de leurs clients.
Cela peut leur permettre de prendre des décisions éclairées en matière de crédit et de gestion des risques.
Les controverses autour du social scoring
Le social scoring soulève donc de nombreuses controverses et préoccupations.
. La question de la vie privée.
Le fait d'être noté et évalué en fonction de son comportement en ligne peut être considéré comme une violation de la vie privée des individus.
. La question de la transparence et de l'équité des systèmes de notation.
Les algorithmes utilisés pour évaluer et noter les individus sont souvent complexes et opaques, et peuvent être sujets à des biais et à des erreurs, ce qui peut conduire à des jugements injustes et discriminatoires.
. La question discriminatoire et inégalitaire.
En se basant sur des critères tels que les opinions politiques ou les interactions en ligne (analyses comportementales), ces systèmes peuvent favoriser certains individus et en marginaliser d'autres, et entraîner une stigmatisation et une marginalisation des individus.
. La question de la réglementation et de l'encadrement du social scoring.
Les gouvernements et les autorités de régulation commencent à prendre des mesures pour protéger les droits des individus et encadrer l'utilisation des données dans le social scoring.
Les mesures réglementaires et les perspectives d'avenir
Face aux préoccupations soulevées par la notation sociale, des mesures réglementaires commencent à être mises en place.
Par exemple, le Règlement général sur la protection des données (RGPD) de l'Union européenne vise à protéger les droits des individus en matière de vie privée et de traitement des données.
D'autres pays envisagent également d'adopter des réglementations similaires pour encadrer l'utilisation des données dans le social scoring. Mais il reste encore beaucoup à faire pour garantir la transparence et l'équité des systèmes de notation et pour protéger les droits des individus.
Les algorithmes utilisés pour attribuer les notes sont souvent complexes et opaques, ce qui rend difficile pour les individus de comprendre comment leur score est calculé et de contester les évaluations injustes ou erronées.
Dans l'Union Européenne
En octobre 2023, Human Rights Watch, La Quadrature Du Net et EDRi ont présenté une proposition au Conseil européen et au Parlement européen pour renforcer l'interdiction du social scoring. Cette proposition souligne les déséquilibres et les discriminations engendrés par les systèmes de social scoring basés sur l'intelligence artificielle.
Elle appelle à l'adoption d'amendements qui interdiraient ces systèmes et mettraient fin à leur propagation.
> L'interdiction du scoring social basé sur l'IA : renforcer la réglementation de l'UE - Déc. 2023
Les propositions actuelles de l'UE concernant l'IA reconnaissent les risques associés au social scoring, mais leur formulation actuelle pourrait permettre la pratique de ces systèmes à travers l'Europe.
