总部位于旧金山的AI身份验证公司Checkr正计划拓展业务至政府领域，目标是通过其AI技术帮助减少公共福利系统中的“欺诈与浪费”。公司CEO丹尼尔·延尼斯表示，公司希望利用AI技术不仅筛查政府雇员，还能验证民众申请医疗保险、社会保障等福利的资格，解决当前政府难以核实个人收入和就业状况的难题。 据估算，2025年美国医疗保险费后服务项目中，约有288.3亿美元的支付属于“不当支付”，占比达6.55%。此外，大量医保资金流向了被联邦医疗项目列入黑名单的违规机构。一项由Middesk发布的研究显示，2018至2024年间，约160万医疗机构获得的1.09万亿美元医保资金中，有5.63亿美元支付给了存在犯罪或不当行为记录的机构。 然而，AI专家对这一设想提出警示。加州大学伯克利分校AI先驱斯图尔特·罗素指出，当前主流AI系统（如大语言模型）无法提供可验证的决策解释，导致错误决定难以申诉，且欧盟GDPR已禁止对个人产生重大法律影响的决定完全由自动化系统做出。 萨拉索塔大学AI政治学副教授鲍宝·张提醒，历史教训表明，自动化福利系统风险极高。美国印第安纳州曾将福利审核外包给IBM，结果因系统错误导致大量错误拒付，最终引发州政府起诉并索赔13亿美元。澳大利亚的“机器人债务”（Robodebt）项目则因算法错误，向数万名民众发送虚假债务通知，导致至少三人自杀，最终被法院裁定违法。 埃默里大学AI与未来工作项目创始主任伊芙欧玛·阿朱尼瓦强调，若政府引入AI系统，必须设立由技术专家、社会科学家及受影响群体共同参与的顾问委员会，确保透明与问责。她呼吁在推进AI应用时保持审慎，建立明确的监管框架，以保护公民权利。