纽约通过《RAISE法案》严防大型AI模型引发灾难，设法定透明度标准

纽约州立法者周四通过了一项旨在防止前沿人工智能模型（如OpenAI、Google和Anthropic的产品）导致灾难性后果的法案，即RAISE法案。这些灾难性后果包括超过100人伤亡或超过10亿美元的经济损失。RAISE法案代表了AI安全运动的一次胜利，近年来该运动在硅谷和特朗普政府重视速度和创新的情况下受到了一定程度的忽视。支持该法案的安全倡导者包括诺贝尔奖得主Geoffrey Hinton和AI研究先驱Yoshua Bengio。如果该法案获得签署，这将是美国首个对前沿AI实验室设立法定透明度标准的法律。 加州曾提出类似的SB 1047法案，但最终被否决。而RAISE法案的支持者、纽约州参议员Andrew Gounardes在接受TechCrunch采访时指出，他特别设计了该法案，旨在不扼杀初创公司或学术研究人员的创新。他认为，随着AI技术的迅速发展，制定保护措施的时间窗口正在迅速缩小。Gounardes指出，“最了解AI的人士认为这些风险非常可能发生……这是令人担忧的。” RAISE法案目前已被提交给纽约州长Kathy Hochul，她可以选择签署该法案使其成为法律、退回要求修改或否决该法案。 如果生效，该法案将要求世界上最大的AI实验室公布详尽的安全和保障报告，并在模型出现异常行为或被恶意获取时报告事故。若科技公司未能遵守这些标准，纽约州首席检察官有权处以最高3000万美元的民事罚款。此外，法案的透明度要求仅适用于那些使用超过1亿美元计算资源训练AI模型的公司，这些公司的产品必须面向纽约居民。 与之前的AI安全法案相比，RAISE法案更明确地针对全球最大的几家公司，无论它们位于加利福尼亚州还是中国，例如DeepSeek和阿里巴巴。不过，它不需要AI开发者在其模型中加入“停止开关”，也不会对后期训练前沿AI模型的公司进行严重追责。 尽管如此，硅谷对此反应强烈。纽约州议会成员Alex Bores表示，科技行业对该法案的反对是可以预料的，但他强调，RAISE法案不会限制任何技术公司的创新能力。投资人Anjney Midha则表示，RAISE法案“是另一种愚蠢的州级AI法案，将损害美国在技术竞争中的地位”。同时，Anthropic的联合创始人Jack Clark虽然未表明官方立场，但也表达了对该法案宽泛性的担忧，特别是它对小型企业的潜在威胁。 参议员Gounardes回应称，他特意设计了法案，以确保不会影响小型企业。另外一项常见批评认为，AI模型开发者可能会选择不在纽约市推出他们最先进的模型。这种现象曾在欧洲发生过，因为该地区对科技产品的监管极为严格。然而，Bores认为RAISE法案的监管负担相对较轻，因此不应导致企业停止在纽约的产品服务。考虑到纽约拥有美国第三大GDP，大部分公司应该会权衡经济利益，继续在该州运营其AI产品。 业内人士普遍认为，纽约出台的这项AI安全法案是一个积极的步骤，表明了政府对AI潜在风险的重视。然而，法案的具体执行效果以及是否能够平衡安全与创新的考量，仍需拭目以待。Gounardes和Bores等立法者的决心反映了公众对AI透明度和问责制日益增长的需求。尽管如此，科技界的批评和担忧也显示了在快速发展的技术领域制定合理法规的复杂性和挑战性。