Command Palette
Search for a command to run...
AGIからASIへ
AGIからASIへ
概要
過去10年間、人間レベルの汎用人工知能（AGI）の実現は、あり得ない予測から、主要なAI組織の多くにとって現実的な次十年間の目標へと変遷した。この目標の達成は人類社会に深遠かつ広範な影響を与えるため、今後10年において多くの複雑な問いを提起する。本報告書では、ポストAGIの時代において、AIが機械知能の連続体上でどのように発展し続けるかを調査する。この連続体の終点である「Universal AI」は理論的に十分に理解されており、本報告書の主要な焦点となる、人間レベルのAGIから人工一般スーパーインテリジェンス（ASI）への移行、すなわち直感的には人間の大規模組織よりも知的かつ認知能力が高いシステムへの移行に対し、何らかの形式的な根拠を提供する。まずASIの特徴を記述した後、本報告書はAGIからASIへの4つの潜在的な経路について論じる。これらは、AGIのスケールアップ、AIのパラダイムシフト、再帰的改善、そして大規模なマルチエージェント・コレクションからのASIの創発である。次に、これらの経路に沿って生じうる摩擦やボトルネックについて考察する。これらの摩擦が与える影響が微小なのかそれとも顕著なのかを決定することは、具体的な未解決の研究課題の数を多く生み出す。ASIの進捗を予測する際の不確実性が大きいため、今後数年間でAIの進歩がさらに加速する可能性を排除することはできない。これは、人間レベルのAGIが社会に導入されることによって引き起こされる単一の革新的なステップチェンジというイメージが不正確である可能性を示唆し、むしろ、科学や技術の多くの領域におけるAI駆動の進歩とブレイクスルーが引き起こす一連の革新的な社会的変化の見通しの方が、より適切かもしれない。この見通しに備えるためには、グローバルな規模と関心を有する、大規模な学際的努力が必要となる。
One-sentence Summary
This report investigates the transition from human-level artificial general intelligence to artificial general superintelligence by analyzing four potential pathways including scaling AGI, AI paradigm shifts, recursive improvement, and ASI emerging from large-scale multi-agent collectives, arguing that AI progress may involve a series of transformative societal changes rather than a single transformative step change, a prospect that necessitates a massively interdisciplinary endeavour of global scope to prepare for profound impacts.
Key Contributions
- The report characterizes the transition from human-level AGI to artificial superintelligence by defining Universal AI as the endpoint of a machine intelligence continuum. This framework provides formal grounding for analyzing development trajectories where systems exceed the cognitive capabilities of large human organizations.
- Four potential pathways to ASI are identified, including scaling AGI, AI paradigm shifts, recursive improvement, and multi-agent collectives, alongside specific frictions for each trajectory. Analysis details how economic limits, diminishing returns, and orchestration efforts may impede progress along these trajectories.
- Concrete research agendas are proposed to prepare for superintelligent systems, such as developing multi-agent scaling laws and monitoring mechanisms for AI-enabled research acceleration. These recommendations aim to advance foundational understanding of AI limits and track the degree of human-in-the-loop involvement in automated development processes.
Introduction
With human-level artificial general intelligence emerging as a near-term target, researchers must now investigate the trajectory toward artificial superintelligence to prepare for profound societal impacts. The authors note that existing forecasts often lack concrete technological pathways and struggle with uncertainties regarding compute scaling, algorithmic efficiency, and potential bottlenecks such as data exhaustion or economic limits. To navigate this uncertainty, the report characterizes superintelligence and outlines four potential technological pathways from AGI to ASI, including scaling, paradigm shifts, recursive improvement, and multi-agent collectives. Furthermore, the authors identify specific frictions along these routes and frame them as open research questions to guide future efforts in reducing uncertainty about AI capabilities.
Experiment
The provided text is labeled as a Glossary section and consists solely of an image reference without any accompanying text describing experimental procedures or results. Therefore, it is not possible to outline an evaluation setup or identify qualitative findings and conclusions from this material. This input lacks the necessary narrative details to describe experiment validations or overall outcomes.