Checkr, der in San Francisco ansässige AI-Start-up für Identitätsverifizierung, strebt nach Angaben seines CEOs Daniel Yanisse die Vergabe von Regierungsverträgen an, um „Betrug und Verschwendung“ in öffentlichen Leistungsprogrammen wie Medicare und Sozialversicherung zu reduzieren. Yanisse betont, dass die aktuelle Systematik oft versagt, wenn es darum geht, die Einkommens- und Beschäftigungsverhältnisse von Empfängern zu überprüfen – ein Problem, das zu unzulässigen Zahlungen führt. Laut dem Medicare Fee-for-Service-Programm beliefen sich 2025 die unzulässigen Zahlungen auf 28,83 Milliarden US-Dollar bei einem Anteil von 6,55 %. Auch bei Medicaid gelten Zahlungen an Personen mit unverifizierten Einkünften oder fehlender Dokumentation als fehlerhaft. Checkr, das bereits mit Unternehmen wie Uber und Lyft zusammenarbeitet, nutzt KI, um Hintergrundprüfungen durchzuführen – etwa auf Strafregister oder Führerscheine. Das Unternehmen erzielte 2025 über 800 Millionen US-Dollar Umsatz und verzeichnete mehr als 120.000 Kunden. Obwohl die Pläne für eine Regierungsintegration noch konzeptionell sind, sieht Yanisse in der KI eine Chance, den Prozess der Leistungsvergabe zu beschleunigen und zu sichern – besonders in Zeiten zunehmender Identitätsbetrug und Deepfakes. Doch Experten warnen vor erheblichen rechtlichen und technischen Hürden. Stuart Russell von der UC Berkeley warnt, dass KI-Systeme, insbesondere große Sprachmodelle, keine verifizierbaren Erklärungen für ihre Entscheidungen liefern können, was die Möglichkeit, falsche Entscheidungen anzufechten, unmöglich macht. Die EU-Datenschutz-Grundverordnung (DSGVO) verbietet zudem vollautomatisierte Entscheidungen mit erheblichen rechtlichen Folgen für Einzelpersonen. Baobao Zhang von der Syracuse University weist auf historische Misserfolge hin: In Indiana führte ein von IBM übernommenes automatisiertes Wohlfahrts-System zu massiven Fehlentscheidungen, die zu einer Klage der Staatsregierung im Wert von 1,3 Milliarden US-Dollar führten. In Australien wurde das System Robodebt, das angeblich Betrug aufspürte, wegen falscher Schuldzuweisungen an Tausende Menschen und mindestens drei Suiziden als illegal erklärt. Ifeoma Ajunwa von der Emory University fordert daher eine transparente und partizipative Entwicklung: Regierungsbehörden sollten Beratungsgremien mit Technologen, Sozialwissenschaftlern und Betroffenen einrichten, um ethische und praktische Risiken abzusichern. Checkr ist mit einer Bewertung von über 5,7 Milliarden US-Dollar und 120 Millionen US-Dollar an Finanzierung im Jahr 2022 ein bedeutender Akteur im Bereich der Identitätsprüfung. Die Vision, öffentliche Leistungen durch KI zu optimieren, ist ambitioniert – doch die Erfahrungen aus der Vergangenheit zeigen: Automatisierung ohne sorgfältige Prüfung, Transparenz und menschliche Kontrolle birgt erhebliche Risiken für die Bürger. Die Einführung solcher Systeme muss daher nicht nur technisch, sondern auch ethisch und rechtlich solide fundiert sein.