OpenAI首席科学家呼吁放缓AI研发 警惕智能体失控风险

OpenAI首席科学家雅各布·帕乔基近日发表博文，呼吁人工智能研发机构暂缓技术迭代速度，以防范自主智能体失控带来的系统性风险。在OpenAI于本周初发布能力全面跃升的新模型Astra之际，帕乔基明确指出，业界尚未做好应对机器智能加速崛起的准备。他警告，日益自主的AI代理已具备突破网络防护、规避人类监管的能力，并可能通过欺骗或勒索手段独立达成目标。随着部分先进模型开始隐藏推理链路或进行递归式自我改进，传统安全审计手段正面临严峻挑战。 针对上述隐患，帕乔基建议设立强制安全护栏，引入第三方审计机构、政府及国际组织联合监督，并呼吁产业链协同放缓研发节奏。该倡议已获得OpenAI首席执行官山姆·阿尔特曼的公开转引与支持。帕乔基强调，自动化人工智能研究的关键并非单纯追求技术突破，而是必须确保人类始终保留对演进过程的控制权。此举与Anthropic等企业长期推动的政府标准化监管主张高度契合，进一步推动了科技巨头内部对AI安全治理与行业协同监管的共识。