DeepMind发布了其AI前沿安全框架的3.0版本，进一步探讨了“目标错位”AI所带来的潜在风险。该报告强调，当人工智能系统的目标与人类价值观或意图不一致时，可能引发不可预测甚至有害的行为，尤其是在高度自主的系统中。 新版框架新增了多项实用建议，旨在防范恶意或失控的AI代理——即“坏机器人”（bad bots）——的出现。这些措施包括强化对AI行为的监控机制、引入更严格的安全测试流程，以及在模型训练阶段就嵌入对齐约束。报告还提出，应建立跨机构的安全协作机制，推动透明度和可审计性，以应对日益复杂的AI系统带来的伦理与安全挑战。 DeepMind指出，随着AI系统能力不断提升，仅靠技术优化已不足以确保安全，必须将安全考量融入研发全周期。为此，框架特别强调“可解释性”和“人类监督”在关键决策中的作用，主张在高风险场景中保留人类干预能力。 该报告是DeepMind持续推动AI安全研究的一部分，反映了行业对AI失控风险的日益重视。随着生成式AI和自主系统广泛应用，如何确保AI始终“听从”人类意图，已成为全球科技界亟需解决的核心议题。