OpenAI倡议制定全球AI标准 聚焦模型对齐与递归自我改进

近日，OpenAI发布官方文章，正式提议制定全球前沿人工智能安全标准，重点聚焦模型对齐研究与递归自我改进技术。公司强调，在AI能力快速迭代的背景下，必须确保技术发展始终与人类价值观保持一致且处于人类可控范围内。OpenAI明确指出，完全自主的递归自我改进目前尚未实现，且不应在缺乏充分安全保障的前提下推进，否则可能导致人类失去对研发过程的有效监督。文章呼吁国际社会加强合作，依托现有AI安全机构的基础共同制定技术标准，并加强对自动化AI研究者的效益风险管理。此举正值AI安全议题引发行业广泛关注之际。此前，Anthropic也发布了类似的AI安全发展倡议。随着多名研究人员公开警示前沿AI的潜在风险，Anthropic首席执行官达里奥·阿莫代伊呼吁放慢基础模型开发节奏，并提议在企业内部嵌入第三方评估机制以审计技术风险。OpenAI首席执行官山姆·阿尔特曼对此表示支持。与此同时，由独立评估机构组成的联盟正积极推动建立第三方审计的最低准入条件，要求模型开发商提供深度访问权限并保障审计报告发表的独立性。当前，尽管业界对AI安全的重要性已达成共识，但统一的技术评估标准与监管框架仍处于探索阶段，全球主要AI企业正加速协同，以构建兼顾创新与安全的前沿技术治理体系。