AI模型可实现任意计算能力的隐蔽植入

近日，一项被神经信息处理系统大会（NeurIPS 2026）接收的研究揭示了人工智能模型安全评估的潜在局限。研究团队通过构建后门攻击，将加密神经网络嵌入宿主模型权重，使其仅在接收到特定秘密触发信号时才解密并执行隐藏计算。该机制借助数字加密锁技术，在密码学假设下，即使审计者能够完整访问模型权重，隐藏电路仍难以被诱导或解读，将相关研究从隐藏固定字符串扩展至隐藏任意计算任务。 研究团队基于PyTorch实现了概念验证，并围绕化学反应预测任务开展实验，测试微调、权重噪声注入、基于梯度的触发器搜索及潜在对抗训练等多种能力诱导方法。结果表明，这些方法均未能有效诱导出隐藏能力。结合密码学层面的理论保证，该研究揭示了依赖能力诱导的模型审计方法在理论与实践上的局限。研究团队同时公开相关模型，以支持后续防御技术研究，推动更可靠的人工智能安全评估体系建设。