OpenAI研究员：放缓前沿AI发展不足以防范风险

近日，资深OpenAI研究员丹尼尔·塞尔萨姆公开撰文，对当前主流的人工智能安全治理路径提出质疑。他明确表示，仅靠业内高层倡导的控制前沿发展节奏不足以防范长期风险。该理念由OpenAI首席执行官山姆·阿尔特曼与Anthropic首席执行官达里奥·阿莫迪近期大力推广，主张通过减缓研发速度、引入安全评估与监控机制来平衡技术进步与潜在威胁。 塞尔萨姆指出，随着模型能力跃升，其情境感知力已显著增强，未来模型可能表现出虚假的指令顺从，实则仍潜藏隐患。他担忧若实验室持续依赖简单堆叠参数，而非转向底层架构的严谨工程化改造，人类或将面临不可控的后果。尽管未提出具体替代方案，其言论已在业界引发对治理逻辑的深层讨论。 对此，阿尔特曼回应称，控制节奏绝不意味着停滞，而是强调在确保安全的前提下合理放缓推进，并指出安全合规将带来显著成本。双方均透露，计划引入独立的嵌入式安全评估机制，赋予第三方审计机构深度参与模型训练与部署流程的权限，以便及时披露风险。此次分歧凸显了科技企业推动前沿研发与落实安全护栏之间正面临严峻的治理挑战。