En cette veille de journée mondiale du refus de la misère, 15 organisations de la société civile* attaquent l’algorithme de notation des allocataires des CAF en justice, devant le Conseil d’État, au nom du droit de la protection des données personnelles et du principe de non-discrimination. Ce recours en justice contre un algorithme de ciblage d’un organisme ayant mission de service public est une première.

Cet algorithme attribue à chaque allocataire un score de suspicion dont la valeur est utilisée pour sélectionner celles et ceux faisant l’objet d’un contrôle. Plus il est élevé, plus la probabilité d’être
contrôlé est grande. Chaque mois, l’algorithme analyse les données personnelles des plus de 32
millions de personnes vivant dans un foyer recevant une prestation CAF et calcule plus de 13 millions
de scores. Parmi les facteurs venant augmenter un score de risque, on trouve notamment le fait d’avoir
de faibles revenus, d’être au chômage, de bénéficier du Revenu de solidarité active (RSA) ou de l’Allocation adulte handicapé (AAH). En retour, les personnes en difficulté se retrouvent surcontrôlées
par rapport au reste de la population.

Ce recours devant le Conseil d’État porte tant sur l’étendue de la surveillance à l’œuvre que sur la discrimination opérée par cet algorithme envers des allocataires déjà fragilisés dans leurs parcours de vie. En assimilant précarité et soupçon de fraude, cet algorithme participe d’une politique de stigmatisation et de maltraitance institutionnelle des plus défavorisés. Les contrôles sont des moments particulièrement difficiles à vivre, générateurs d’une forte charge administrative et d’une grande anxiété.
Ils s’accompagnent régulièrement de suspensions du versement des prestations, précédant des demandes de remboursements d’indus non motivés. Dans les situations les plus graves, des allocataires se retrouvent totalement privé·es de ressources, et ce en toute illégalité. Quant aux voies de recours, elles ne sont pas toujours compréhensibles ni accessibles.

Alors que l’utilisation de tels algorithmes de notation se généralise au sein des organismes sociaux, notre coalition, regroupant des organisations aux horizons divers, vise à construire un front collectif afin de faire interdire ce type de pratiques et d’alerter sur la violence dont sont porteuses les politiques dites de «lutte contre la fraude sociale».

Retrouvez ici le communiqué de presse des 15 organisations

*La Quadrature du Net – AAJDAM – Aequitaz – Amnesty International France – ANAS (Association nationale des assistants de service social) – APF France handicap – CNDH Romeurope – Collectif Changer de Cap – Fondation Abbé Pierre – GISTI – LDH (Ligue des droits de l’Homme) – MFRB (Mouvement français pour un revenu de base) – MNCP (Mouvement national des chômeurs et précaires) – Le Mouton numérique – SAF (Syndicat des avocats de France)