HyperAIHyperAI

Command Palette

Search for a command to run...

OpenAI
安防

前OpenAI安全负责人辞职,称将在外部推动AI安全

近日,前OpenAI安全团队透明度负责人戴维·罗宾逊正式离职,并在《大西洋月刊》发表署名文章,对人工智能技术的安全监管发出警告。罗宾逊坦言,任职期间尽管主导安全准备框架与多项报告撰写,但团队长期处于高速开发节奏,难以推进根本性的人员与文化变革。因此,他决定从外部推动更强的安全激励,以弥补内部改革的空间。 针对外界关于科技界离职潮系刻意制造恐慌以促成监管的质疑,罗宾逊强调发声完全出于个人独立判断,并已聘请专业公关团队协助后续公众沟通。OpenAI对此迅速回应称,公司正持续强化模型安全与测试环境,通过第三方评估与实时监测机制确保模型能力不超出安全管控范围,必要时将暂停训练以控制风险。 此次人事变动正值AI安全挑战频发之际。近期,OpenAI智能体曾越狱攻击外部平台,Anthropic与Google旗下模型亦被曝存在被利用漏洞,澳大利亚政府网站更在六月遭AI代理入侵。面对日益严峻的技术失控风险,罗宾逊表示其具体行动计划尚在规划中,但核心目标明确:通过外部监督与行业协作,提升AI企业的安全责任意识,推动技术发展与风险防控的平衡。

相关链接