AIを活用した身元確認サービスを手がけるサンフランシスコのスタートアップ、チェック（Checkr）が、政府の給付制度における「不正と浪費」を削減するための公的契約獲得を目指している。同社のダニエル・ヤニセCEOは、メディケアや社会保障など、給付受給資格の確認にAIを導入することで、不正受給や悪意ある利用者による政府資金の不正取得を防げるとしている。現在、同社はウーバーとリフトの新規ドライバーの背景調査で主要なパートナーであり、2025年には8億ドル以上の収益を達成し、顧客数は12万人以上に達している。 しかし、AIによる給付資格の自動判定には技術的・法的課題が山積している。カリフォルニア大学バークレー校のAI研究者、スチュアート・ラッセル教授は、「AIは判断の根拠を正確に説明できないため、誤った決定に対抗できない」と指摘。EUのGDPRでは、個人に重大な法的影響を与える決定は完全な自動化を禁じており、同様の規制が米国でも議論されている。 シンラクル大学のバオバオ・チャン教授も、過去の政府の自動化失敗事例を警告。インディアナ州がIBMに福利厚生システムの自動化を委託した際、誤った処理により多数の市民が給付を不当に停止され、訴訟に発展。オーストラリアの「ロボデット」システムも、誤ったアルゴリズムにより数万人に不当な返金請求を出し、少なくとも3人の自殺が報告された。2019年、同システムは違法と判断された。 エモリー大学のイフェオマ・アジュンワ氏は、AI導入には技術者と社会学者からなる諮問委員会の設置、そして市民の声を反映する仕組みが必要だと強調。「効率化とコスト削減の裏で、市民の権利を守るためのガードレールが不可欠だ」と述べている。チェックは現在、政府連携の可能性を「概念段階」として位置づけているが、その実現には慎重な検証と社会的合意が不可欠である。