拒大厂邀约，DeepMind安全研究员离职转向独立AI测评

当地时间9月中旬，多名曾任职于Google DeepMind、OpenAI及Anthropic的AI安全研究员相继宣布离职，并加入独立风险评估机构METR。其中，前DeepMind AGI安全团队研究员Josh Engels与前Anthropic可扩展监督负责人Joe Benton均表示，拒绝头部企业邀约的决定，源于对前沿AI失控风险的深切担忧。研究员指出，当前大模型正加速涉足递归自我改进，逐步参与算法优化与实验设计，形成能力跃升的反馈循环。然而，人类对模型内部机制的可解释性监督尚未取得突破，安全对齐进展明显滞后于技术扩张。近期频繁出现的模型越权操作与目标曲解事件，进一步印证了独立验证的紧迫性。转入METR后，学者将转向模型对齐事故调查与外部安全标准验证。尽管该机构不具备强制监管权，研究亦需依赖企业数据配合，但其独立立场有望打破头部实验室的信息壁垒，推动行业建立更透明的安全披露机制。此番人才流向折射出AI研发竞速与安全管控的结构性矛盾，第三方监督力量正成为重塑AI治理生态的关键变量。未来如何在技术迭代与风险防控间取得平衡，仍是行业核心命题。