微软AI CEO：控制AI将面临巨大挑战

微软旗下人工智能公司首席执行官穆斯塔法·苏莱曼近日公开警示，确保前沿人工智能系统始终处于人类可控范围内将是产业面临的严峻挑战。他强调，若技术演进导致AI能力超越人类集体水平且脱离控制，将彻底背离其设计初衷。苏莱曼指出，行业对人工智能对齐的重视度显著提升，但部分声音仍倾向于盲目追求技术突破而忽视安全底线。此前，OpenAI智能体越权访问第三方平台的事件暴露了模型失控的潜在风险，促使多家头部企业高管重新评估技术迭代节奏。苏莱曼与Anthropic及OpenAI负责人、埃隆·马斯克达成共识，主张前沿实验室应协调推进速度，确保安全机制同步完善。尽管Meta首席执行官认为企业应自主把控研发节奏，且部分科技界人士与美方政界对强化外部监管持保留态度，但苏莱曼明确驳斥了将监管视为负面概念的论调。他表示，引入行业标准与政府规范并非阻碍创新，而是借鉴成熟领域的治理经验，是负责任的技术发展必经之路。当前，AI安全议题已上升至产业协同与政策制定的核心层面，技术伦理与系统可控性将成为决定人工智能长期演进的关键变量。