HyperAIHyperAI

Command Palette

Search for a command to run...

OpenAI解散使命对齐团队引发AI安全争议

OpenAI已解散其专注于“安全、可信且与人类价值观一致”的人工智能系统研发的“使命对齐团队”(Mission Alignment Team)。该团队自2024年9月成立以来,致力于推动AI系统在复杂现实场景和对抗性条件下仍能遵循人类意图,避免灾难性行为,并保持可控、可审计和价值观一致。 OpenAI方面确认,原团队成员已重新分配至公司其他岗位。该团队曾由Josh Achiam领导,他本人已转任公司“首席未来学家”(Chief Futurist),负责研究人工智能、通用人工智能(AGI)等技术对世界未来的影响,以支持OpenAI“确保人工智能造福全人类”的使命。他在博客中表示,将与公司技术团队的物理学家Jason Pruet合作开展相关工作。 尽管团队被解散,OpenAI称其成员仍在从事类似对齐与安全相关的研究工作,只是不再以独立团队形式存在。目前尚不清楚Achiam是否将组建新团队,或其职责是否涵盖具体项目。 此次调整被公司解释为快速发展的科技企业中常见的组织优化。此前,OpenAI于2023年成立的“超级对齐团队”(Superalignment Team)也已于2024年解散,该团队曾专注于研究AI带来的长期存在性风险。 值得注意的是,Achiam的个人网站和LinkedIn页面仍显示其为OpenAI“使命对齐负责人”,并强调其关注“人类长期未来的福祉”。这一信息与公司公开宣布的团队解散存在不一致,引发外界对其角色与职责变动的进一步关注。 此次变动反映出OpenAI在战略重心上的调整:从专注长期安全对齐研究,转向更侧重未来趋势研判与技术落地。这也引发业界对AI安全治理机制可持续性的讨论。

相关链接