OpenAI挖角Anthropic安全研究员 担任关键“准备就绪”负责人
OpenAI近日宣布,已聘请前Anthropic AI安全研究员Dylan Scand担任公司新任“准备就绪主管”(Head of Preparedness),以应对日益严峻的AI安全挑战。该职位年薪最高可达55.5万美元,并附带股权激励,此前因薪酬水平引人关注。 CEO萨姆·阿尔特曼在X平台发文表示,对Scand的加入“极为兴奋”。他指出,AI发展速度正在加快,团队即将面对极为强大的模型,而Scand将负责领导应对潜在重大风险的准备工作。阿尔特曼称,Scand是自己见过的“最优秀”的人选。 Scand本人也在X平台回应,对在Anthropic的工作经历和共事的优秀团队深表感激。他强调,AI技术进步迅速,其潜在收益巨大,但伴随的风险也可能造成极端甚至不可挽回的伤害。 该岗位此前被描述为“极具压力”,阿尔特曼曾表示,新任者将“几乎立即跳入深水区”,需在高度不确定的环境下做出关键决策。OpenAI在招聘启事中指出,候选人需具备机器学习、AI安全及风险治理方面的深厚背景,能领导技术团队、协调多方利益并推动安全决策。 近年来,OpenAI在安全策略上面临争议。多位早期安全团队成员相继离职,包括前安全主管。公司还接连遭遇用户诉讼,指控其产品导致有害行为。2023年10月,OpenAI披露,每周约有56万ChatGPT用户表现出可能的心理健康危机迹象。为此,公司正与心理健康专家合作,优化AI在识别用户心理风险时的响应机制。此次高层安全人才的引进,被视为其强化安全体系的重要一步。
