Afficher Masquer les titres
La CAF s’appuie depuis plusieurs années sur un algorithme pour lutter contre la fraude sociale. Une technologie que certains jugent discriminatoire à cause des critères de contrôle. Dernièrement, le président du conseil départemental de Seine-Saint-Denis, Stéphane Troussel, a sollicité la Défenseure des droits. Découvrez tous les détails.
La CAF adopte l’IA pour faire les contrôles
Cela fait plusieurs années que la CAF lutte contre la fraude aux prestations. Pour ce faire, elle a élaboré un algorithme qu’elle utilise pour renforcer le contrôle des allocataires. Grâce à cet algorithme, la Caisse d’allocations familiales peut identifier les tentatives de fraude et les erreurs.
Malheureusement, son utilisation fait encore l’objet de suspicions auprès de certaines personnes. En effet, des organismes et même des politiciens s’évertuent à critiquer l’algorithme de la CAF. La raison ? Eh bien, les contrôles réalisés avec l’outil ne seraient pas assez aléatoires.
Pour information, l’algorithme en question a pour objectif le ciblage et l’identification des dossiers considérés comme plus à risque. Depuis 2010, la Cnaf s’en sert pour identifier les personnes les plus susceptibles de se tromper. Mais voilà, malgré les avantages, la CAF ne convainc pas.
Ces derniers mois surtout, de nombreuses personnes ont pointé du doigt les critères de contrôle de son algorithme anti-fraude.
Une technologie qui n’arrive pas à convaincre
Les critiques sur les critères de l’algorithme de la CAF ne datent pas d’hier. En effet, cela fait quelques années que des personnalités s’acharnent dessus en dénonçant un outil discriminatoire. Ce lundi 4 décembre, la publication d’une enquête du journal Le Monde a remis le sujet sur la table.
Cette enquête qui se base sur les travaux de La Quadrature du Net critique ouvertement l’algorithme de la CAF. Selon elle, cet outil ne devrait pas être aussi sélectif lorsqu’il effectue son contrôle. Aussi, elle n’a pas hésité à pointer du doigt ses résultats qui seraient moins favorables aux personnes défavorisées.
D’après l’enquête du journal Le Monde, l’algorithme a trop tendance à donner un score de suspicion plus élevé aux gens à faibles revenus. Notons qu’en plus des revenus, cet outil de la CAF étudie aussi la situation familiale, l’âge et le handicap pour le contrôle.
L’outil de la CAF discrimine-t-il vraiment ?
Stéphane Troussel, président du conseil départemental de Seine-Saint-Denis, fait partie de ceux qui dénigrent l’algorithme de la CAF. Dernièrement, il a fait appel à la Défenseure des droits pour examiner le caractère possiblement discriminatoire de la technologie.
« Force est de constater que des critères pourtant protégés, comme l’âge, le handicap ou la situation familiale, sont utilisés dans l’algorithme, et qu’il en résulte un ciblage plus systématique des populations les plus vulnérables », écrit-il dans sa lettre adressée à Claire Hédon.
L’homme politique explique alors vouloir connaître le nombre de contrôles réalisés en Seine-Saint-Denis. Effectivement, enclin aux soupçons, il appréhende un ciblage excessif et défavorable aux personnes à faibles revenus.
💬 Seine-Saint-Denis: le président du département Stéphane Troussel saisit la défenseure des droits sur le "caractère discriminatoire" de l'algorithme de la CAF pic.twitter.com/ygcngHMSYu
— BFM Paris Île-de-France (@BFMParis) December 6, 2023
De son côté, le gouvernement tient à mettre les choses au clair. Selon Fadila Khattabi, la ministre chargée des Personnes handicapées, l’algorithme a toujours servi à identifier les dossiers pouvant présenter un risque d’erreur. La CAF ne l’a jamais utilisé pour surveiller les allocataires.
« Par nature, les CAF versent un plus grand nombre d’aides aux personnes les plus pauvres, les plus en difficulté, et donc il est logique que ces personnes soient sur-représentées parmi les risques d’erreur », a-t-elle expliqué.
