Command Palette
Search for a command to run...
从AGI到ASI
从AGI到ASI
摘要
在过去十年中，构建具备人类水平的人工智能通用智能（AGI）已从遥远的臆测，转变为许多大型人工智能组织在未来十年内的具体目标。实现这一目标将对人类社会产生深远而广泛的影响，从而为未来十年带来诸多复杂的问题。本报告旨在探讨在通用人工智能（AGI）实现后的世界中，人工智能如何沿着机器智能的连续谱系继续发展。该连续谱系的终点是“通用人工智能”（Universal AI），其理论框架已相对成熟，这为本报告的核心焦点——即从人类水平 AGI 向人工超智能（Artificial Superintelligence, ASI）的过渡——提供了形式化的理论基础。直观而言，ASI 可被理解为一种比大型人类组织更具智能和认知能力的系统。在对 ASI 进行界定后，本报告探讨了从 AGI 迈向 ASI 的四种潜在路径：扩大 AGI 规模、AI 范式转移、递归自我改进，以及由大规模多智能体（Multi-Agent）集体涌现出的 ASI。随后，报告分析了这些路径上可能出现的摩擦与瓶颈。判断这些摩擦的影响是微不足道还是至关重要，引出了一系列具体的开放研究问题。鉴于预测 ASI 进展存在巨大的不确定性，不能排除人工智能进步在未来几年继续加速的可能性。这意味着，由引入人类水平 AGI 到社会中引发单一变革性跳变的观点可能并不准确。更为贴切的图景可能是：由 AI 推动的、在科学和技术众多领域取得的进步与突破，引发一系列变革性的社会变迁。应对这一前景需要开展一场具有全球范围、跨学科协作的系统性努力。
一句话总结
本报告通过分析四种潜在途径（包括扩展 AGI、AI 范式转变、递归改进以及从大规模多 agent 集体中涌现的 ASI），研究了从人类水平人工通用智能到人工通用超级智能的过渡，论证了 AI 进展可能涉及一系列变革性的社会变化，而非单一的变革性步骤变化，这一前景需要全球范围内的大规模跨学科努力，以应对深远的影响。
核心贡献
- 报告通过将通用 AI 定义为机器智能连续体的终点，来刻画从人类水平 AGI 到人工超级智能的过渡。该框架为分析系统超越大型人类组织认知能力的发展轨迹提供了形式化基础。
- 确定了通往 ASI 的四种潜在途径，包括扩展 AGI、AI 范式转变、递归改进和多 agent 集体，以及每条路径的具体阻力。分析详细阐述了经济限制、收益递减和协调工作如何可能阻碍这些路径上的进展。
- 提出了具体的研究议程，以应对超级智能系统，例如开发多 agent 扩展定律和针对 AI 赋能研究加速的监控机制。这些建议旨在推进对 AI 局限性的基础理解，并跟踪自动化开发过程中人在回路参与的程度。
引言
随着人类水平人工通用智能成为近期目标，研究人员现在必须调查通往人工超级智能的轨迹，以准备应对深远的社会影响。作者指出，现有预测往往缺乏具体的技术路径，并且在计算扩展、算法效率以及潜在瓶颈（如数据耗尽或经济限制）方面的不确定性上存在困难。为了应对这种不确定性，报告刻画了超级智能，并概述了从 AGI 到 ASI 的四种潜在技术路径，包括扩展、范式转变、递归改进和多 agent 集体。此外，作者确定了这些路线上的具体阻力，并将它们作为开放的研究问题，以指导未来减少关于 AI 能力不确定性的工作。
实验
提供的文本被标记为术语表部分，仅包含一个图像引用，没有任何描述实验过程或结果的配套文本。因此，无法从该材料中概述评估设置或识别定性发现和结论。此输入缺乏描述实验验证或整体结果所需的叙述细节。