HyperAIHyperAI

Command Palette

Search for a command to run...

OpenAI
Anthropic

OpenAI CEO奥尔特曼:AI研发需放缓节奏防失控

近日,人工智能安全治理成为科技界核心议题。Anthropic联合创始人达里奥·阿莫代伊指出,受递归自我改进技术驱动,人工智能研发今夏以来大幅加速。若缺乏有效约束,系统能力或将超越人类管控边界,引发不可逆的失控风险。为此,他提出三步缓行策略:前沿机构应向独立评估方开放类员工级权限、共建通用安全标准、主动调控研发节奏,并推进全球协同。紧随其后,OpenAI首席执行官山姆·阿尔特曼公开呼应该倡议。他明确表示,OpenAI将全面引入具备类员工访问权限的外部审计机制。阿尔特曼强调,“缓行”绝非“停滞”,技术迭代将持续推进,但任何国家竞争压力均不应以牺牲安全对齐与监控能力为代价。他同时呼吁,构建前沿风险防线需依托行业自律与国际规则,后续将积极寻求政府支持以落实跨国协调。两大领军企业高管的共识确立,标志着AI产业正从高速竞速转向审慎治理,旨在技术创新与风险管控间重塑平衡,并为全球人工智能监管框架的落地提供实践范本。

相关链接