近期，谷歌旗下人工智能实验室联合施密特科学研究基金会、英国前沿研究机构、合作人工智能基金会及谷歌公益部门，共同设立一千万美元专项基金，旨在前瞻性布局多智能体人工智能安全领域。该计划由该实验室人工智能安全负责人罗欣·沙阿与施密特基金会科学家詹姆斯·福克斯主导推动。 随着具备自主决策能力的智能体加速商用，沙阿警告，数百万智能体在线交互将突破传统单点研究局限，引发诈骗升级、恶意指令注入及复杂网络攻击等新型风险。现有安全架构依赖代码确定性，而智能体的动态推理已彻底颠覆传统前提。网络安全企业与技术公司亦指出，传统防御难以应对智能体群体交互引发的系统性漏洞。 为防范风险跨越临界点，该基金将资助学术界开展高保真沙盒模拟实验，培育独立于产业界的研究力量，从零构建多智能体安全范式。团队强调，需通过标准化压力测试与零信任部署框架，确保数字网络在智能体规模化应用前的可控性。此举标志着科技界正将协同智能风险纳入全球人工智能治理核心议程。