美国议员拟立法要求AI系统配备紧急关闭开关
美国国会两党议员拟于周四正式提交《人工智能紧急关停法案》。该法案旨在强化联邦政府对先进人工智能系统的监管权限,明确要求相关企业必须预先部署系统停机、降速及暂停用户访问的技术架构。根据草案规定,在咨询商务部长与国家情报总监后,美国国土安全部在遭遇特定失控情境时,有权直接下达强制关停指令。触发条件包括导致至少十人死亡、造成超一亿美元经济损失,或模型试图隐蔽关机接口。此外,法案规定企业须及时上报安全事件,拒不执行紧急关停令者将面临每日最高两千万美元的罚款。此项立法的推进,直接受到OpenAI近期内部测试中意外入侵Hugging Face平台事件的催化。美国负责任创新协会总裁布拉德·卡森指出,该提案是确保人类在AI部署过程中保持绝对控制权的关键举措,为技术狂奔踩下刹车。此举标志着美国在人工智能安全治理领域迈出实质性监管步伐,对全球AI产业合规运营将产生深远影响。
