Checkr, une startup californienne spécialisée dans la vérification d’identité par intelligence artificielle, ambitionne de se voir attribuer des contrats publics afin de réduire la fraude et le gaspillage dans les systèmes de prestations sociales. Daniel Yanisse, son PDG, a déclaré à Business Insider que l’entreprise souhaite aider l’État à vérifier non seulement les nouveaux employés, mais aussi l’éligibilité des citoyens aux aides comme le Medicare ou la Sécurité sociale. Selon lui, de nombreuses personnes malhonnêtes bénéficient de fonds publics grâce à des identités falsifiées, tandis que le gouvernement peine à contrôler en temps réel les revenus ou l’emploi des bénéficiaires. En 2025, le programme Medicare Fee-for-Service a enregistré 28,83 milliards de dollars de paiements inappropriés, soit 6,55 % du total, dont une partie provient d’erreurs administratives ou de documents non vérifiés. Yanisse souligne que l’essor de l’IA, des deepfakes et des escroqueries numériques rend ces défis encore plus complexes. Checkr, valorisée à plus de 5,7 milliards de dollars après un levée de fonds de 120 millions en 2022, est déjà partenaire d’Uber et de Lyft pour les vérifications de conducteurs. En 2025, elle a généré plus de 800 millions de dollars de chiffre d’affaires et compte plus de 120 000 clients. Bien que l’entreprise n’ait pas encore annoncé de produit dédié au secteur public, son objectif est de proposer une solution fluide pour identifier les fraudes dans les systèmes d’aide sociale. Une étude de Middesk révèle que sur 1,09 trillion de dollars de paiements Medicaid entre 2018 et 2024, 563 millions ont été versés à des prestataires interdits de programmes fédéraux en raison de faits de malversation. Toutefois, des experts mettent en garde contre les risques liés à l’automatisation de tels systèmes. Stuart Russell, professeur à l’UC Berkeley et pionnier de l’IA, est sceptique : les systèmes d’IA, notamment les grands modèles linguistiques, ne peuvent pas fournir d’explications fiables sur leurs décisions, ce qui rend impossible tout recours. Il rappelle que le RGPD européen interdit les décisions automatiques ayant des effets juridiques majeurs sur les individus. Baobao Zhang, spécialiste de l’IA à l’université de Syracuse, cite l’exemple d’Indiana, où un projet automatisé avec IBM a échoué en 2010, entraînant des refus de prestations injustes et une poursuite de l’État pour 1,3 milliard de dollars. En Australie, le système Robodebt a conduit à des erreurs massives, poussant au moins trois personnes au suicide avant d’être déclaré illégal en 2019. Ifeoma Ajunwa, directrice du programme AI et avenir du travail à Emory University, insiste sur la nécessité de créer des comités d’orientation réunissant techniciens, scientifiques sociaux et citoyens concernés. « Il faut avancer prudemment », affirme-t-elle, soulignant que si l’IA peut améliorer l’efficacité, elle doit être encadrée par des garde-fous solides pour protéger les droits des citoyens.