OpenAI 宣布进入"第三阶段":让 AI 丰富、普惠且安全
ChatGPT 将 AI 带入主流世界三年半之后,OpenAI 创始人 Sam Altman 与首席科学家 Jakub Pachocki 周一发表博文,宣布公司正式进入"第三阶段"。 Altman 将 OpenAI 的历程划为三个阶段:第一阶段聚焦通用人工智能(AGI)研究;第二阶段将产品推向世界,观察人们如何真正使用 AI;而现在进入的第三阶段——"经济开始围绕 AI 重塑",核心问题是"如何让先进 AI 丰富、廉价、安全、有用且足够易用,让每个个人和组织都能从中受益。" Altman 和 Pachocki 写道:"前沿能力只是工作的一部分。更大的任务,是把这些能力变成人们真正能用来活得更好的工具。" 他们提出了三个核心目标: 1. 构建自动化 AI 研究员 2. 加速经济发展 3. 给地球上的每个人配备一个专属 AGI 在技术野心之外,博文花了大量篇幅强调安全与治理。"强大的系统必须保持安全,与人类意图对齐,并受人类控制。"两人写道,"完全自动化一切不是我们想要的未来——那既不会让人满足,也很危险。AI 应该帮助人们实现目标,而不是脱离目标。" 他们还呼吁建立国家及全球层面的协调机制,并再次提出组建国际组织来降低 AI 风险,必要时甚至可以放缓前沿模型的发展速度。 "好的 AI 未来,不能是少数机构掌握大部分能力和回报。它应该是一个让更多人、公司、社区和国家都能建设、受益并拥有权力的未来。" 讽刺的是——正值 OpenAI 同一天秘密提交 IPO 申请(虽然公司表示上市"可能还有段时间"),而 Anthropic 的研究员上周也发文称"前沿实验室可能需要放慢速度"。两家有望上市的公司,不约而同地选择了在上市前夕发出"慢下来"的信号。 也许,真正的"第三阶段"才刚刚开始。
