Allocations familiales : des associations réclament l'interdiction de l'algorithme anti-fraude utilisé par la Cnaf, jugé discriminant

Elles dénoncent un logiciel discriminatoire. Quinze associations ont annoncé mercredi 16 octobre avoir saisi le Conseil d'Etat pour interdire un algorithme utilisé par la Caisse nationale d'allocations familiales (Cnaf), censé détecter les fraudes chez les allocataires.

Les quinze associations requérantes, parmi lesquelles La Quadrature du Net, Amnesty International France ou la Ligue des droits de l'homme, rappellent dans leur communiqué que dans l'objectif de lutter contre la fraude, l'algorithme de la Cnaf "attribue à chaque allocataire un score de suspicion. (...) Plus il est élevé, plus la probabilité d'être contrôlé est grande."

Or, après avoir eu accès au "code source" d'une version de cet algorithme, utilisée entre 2014 et 2018, les associations affirment que "parmi les facteurs venant augmenter un score de suspicion, on trouve notamment le fait d'avoir de faibles revenus, d'être au chômage, de bénéficier du revenu de solidarité active (RSA) ou de l'allocation adulte handicapé (AAH)". "Les personnes en difficulté se retrouvent [donc] surcontrôlées par rapport au reste de la population", dénoncent les requérants. Les associations ont demandé en juillet à la Cnaf de cesser l'utilisation de cet algorithme, sans réponse.

"Une discrimination indirecte"

Pour démontrer que l'algorithme de la Cnaf est illégal et obtenir son interdiction, les associations présentent plusieurs arguments juridiques. Le volume des données traitées est selon elles disproportionné par rapport à la finalité de l'algorithme (ce qui enfreindrait le règlement général sur la protection des données), l'algorithme est "un traitement de données personnelles prenant des décisions automatisées" (là aussi interdit) et il "a pour effet une discrimination indirecte" envers certains groupes, résume la Ligue des droits de l'homme dans son dossier.

Pour le directeur général de la Cnaf, Nicolas Grivel, le logiciel ne cherche que "les indus importants et répétés" parmi les allocataires les plus susceptibles de commettre des erreurs dans leur déclaration. Les bénéficiaires de certains minima sociaux, comme le RSA ou la prime d'activité, dont les revenus varient souvent, doivent remplir des déclarations de revenus trimestrielles avec des formulaires complexes et sont plus à risque de commettre des erreurs. "Si une juridiction devait prendre position pour (...) faire évoluer le dispositif", la Cnaf se mettrait "en conformité", a assuré Nicolas Grivel à l'AFP.