過去10年間、人工知能の開発は予想を常に上回ってきた。かつてはSFの世界だけのものだった汎用人工知能（AGI）は、今や多くの大手AI研究機関にとって、今後10年間を見据えた明確な目標となっている。しかし、より差し迫った疑問は、AGIが本当に実現した場合、AIの開発は停滞してしまうのか、ということだ。

Google DeepMind、ウォータールー大学、オーストラリア国立大学、ユニバーシティ・カレッジ・ロンドンの共同研究チームは、最近の論文でこのより遠い問題について議論した。「シンギュラリティは差し迫っている」と性急に宣言したり、特定の年を予測したりするのではなく、より冷静に問題を分析した。人間レベルの汎用人工知能が実現した後、AI自体は知能の連続体に沿って進化を続けるのだろうか？もしそうだとすれば、汎用人工知能（AGI）から超知能人工知能（ASI）へはどのような経路で移行するのだろうか？また、どのようなボトルネックがこのプロセスを遅らせたり、制限したり、あるいは変化させたりする可能性があるのだろうか？

この論文は未来のタイムラインを具体的に示すものではなく、むしろAIのその後の進化を理解するための地図を提供するものである。そして、以下の点を改めて認識させてくれる。汎用人工知能（AGI）は終わりではなく、むしろAIが平均的な人間のレベルを超えた後の新たな段階の始まりに過ぎない可能性が高い。

「AGIからASIへ」と題された関連研究成果は、プレプリントプラットフォームarXivで公開されている。

論文を見る:
https://hyper.ai/papers/2606.12683/pdf

汎用人工知能（AGI）の進化後、知能はどのようにしてさらに向上していくのだろうか？

「AGIの後」について議論する前に、まず一つの疑問を明確にしておく必要があります。AIが「強くなった」と言うとき、私たちはどの程度までを意味しているのでしょうか？

日常的な議論では、汎用人工知能（AGI）はしばしば「人間と同じくらい賢いAI」と単純に理解されます。しかし、この表現は正確ではありません。誰と同じくらい賢いのでしょうか？一般人と同じくらいでしょうか、それとも専門家と同じくらいでしょうか？試験、文章作成、プログラミングといった認知タスクにおいて人間並みのパフォーマンスを発揮できるのでしょうか、それとも現実世界で長期的に行動し、学習し、計画を立て、自己修正できるのでしょうか？本稿では、比較的大まかではあるものの、議論しやすい定義を採用します。AGIとは汎用人工知能のことで、おおよそ平均的な人間と同程度の知能レベルを指します。それは、特定の狭い分野で人間を凌駕するシステムではなく、むしろ、十分に広い範囲の認知課題において、一般の人々に近い汎用的な能力を備えたシステムである。

この定義は一見保守的に見えるかもしれないが、極めて重要である。今日のAIは、チェス、タンパク質構造予測、コード生成、画像認識など、多くの単一タスク分野ですでに人間を凌駕している。しかし、単一分野で人間を凌駕することと、AGI（汎用人工知能）は同じではない。AGIは汎用性、つまりさまざまなタスクや状況に転移、理解、適応する能力を重視する。AGIは知能連続体の終着点ではない。この連続体をさらに上へと進むと、ASI（超知能人工）に至り、それが今回の議論の対象となる。

この論文はASI（人工超知能）に対して非常に高い基準を設定しているが、特定のAIが単一分野で「世界チャンピオン」になるという意味ではない。むしろそれは、ほぼすべての作業や人間の関心分野において、人間の能力を凌駕する能力を持つシステムを指す。さらに重要なのは、単に一人の専門家を凌駕することではなく、長期間にわたって協力してきた多数の専門家からなる大規模な組織を確実に凌駕することである。

言い換えると、AGIは「一般人の一般的な認知レベル」と理解できる一方、ASIは「超専門家組織の一般的な能力」に近い。前者はAIが人間の平均的なレベルに到達できるかどうかという問いに答えるものであり、後者はデジタル知能が複製、加速、共同開発、そして継続的な拡張が可能になったとき、それは人類全体の能力をはるかに凌駕する能力を形成するのか、という問いである。

この論文では、汎用人工知能（AGI）と超知能指数（ASI）に加えて、理論的な限界である普遍的人工知能（UAI）、またはAIXIについても論じている。 AIXIは、数学的に理想化された汎用知能エージェントであり、機械知能の理論的な上限を表しています。しかし、AIXIは計算可能ではありません。これは今日すぐに訓練して展開できるモデルではなく、むしろ理論的な指針のようなものです。極端な状況下で機械知能がどのようなものになるかを示してくれるものであり、現実世界のシステムはそれよりも低いレベルからしか近づくことができません。

したがって、本論文では明確な座標系を確立する。AGIは人間レベルの汎用知能、ASIは人間の専門家をはるかに凌駕する汎用超知能、そしてAIXIは知能の理論的な限界である。この定義は概念的な遊びではなく、その後のすべての議論の基礎となるものです。なぜなら、汎用人工知能（AGI）が平均的な人間のレベルという閾値を超えたとしても、真の問題はもはや「AGIが出現するかどうか」ではなく、「この閾値を超えた後、デジタル知能はさらに高みへと進化し続けるのか」ということになるからです。

汎用人工知能（AGI）から超知能指数（ASI）に至る道は複数存在する可能性がある。

この論文では、汎用人工知能（AGI）から超知能（ASI）へ至る技術的な経路は、少なくとも4つ存在する。これらは相互に排他的なものではなく、必ずしも順序立てて発生するわけでもありません。むしろ、将来的には並行して進行し、重なり合う可能性が高いでしょう。

最初の道は、コンピューティング、モデル、データの拡大を継続することである。過去10年間、AIの能力向上は主にスケーリング、すなわち計算能力の向上、モデルの大型化、データ量の増加、そしてアルゴリズムの効率化によってもたらされてきた。問題は、AIが汎用人工知能（AGI）の閾値を超えた後も、この傾向が続くかどうかである。モデルを大型化し、計算能力を高めることが、必ずしもより高いレベルの知能につながるのだろうか。その答えは不確かである。

しかし、この論文では、個々のモデルの能力の成長が鈍化したとしても、AI システムの全体的な能力は向上し続ける可能性があるとも指摘している。これは、デジタル知能には生物学的知能にはない利点があるためである。デジタル知能は複製、加速、一時停止、再開が可能であり、経験は極めて高い帯域幅で共有できる。AGI システムが数百万または数億のインスタンスに複製され、並列に動作し、互いに協力し、高速に実行できる場合、つまり、たとえ個々の事例が「人間レベル」にとどまるとしても、システム全体としては、人間の組織をはるかに凌駕する能力を発揮する可能性があるということだ。

2つ目の道は、アルゴリズムにおけるパラダイムシフトである。今日の主流のAIパラダイムは、一般的に、膨大なデータを用いて大規模な基礎モデルを訓練し、その後、指示、強化学習、ツールの使用、検索機能の強化、テスト時の推論などを通じて微調整を行い、その能力を向上させるというものです。しかし、このアプローチがASI（人工知能）の実現に十分かどうかは、まだ明らかになっていません。

既存のモデルには依然として重大な欠点がある。例えば、継続的な学習、長期記憶、堅牢な計画立案、現実世界との相互作用、因果関係の理解、そして自由度の高いタスク実行において、十分な信頼性を備えていない。将来的に汎用人工知能（AGI）から超知能（ASI）へと移行することは、既存のモデルを単にスケールアップするだけでは済まないかもしれない。その代わりに、新しいアーキテクチャ、新しい訓練目標、新しい記憶メカニズム、そして新しい世界モデルが必要となる。新しいハードウェアも形を成す。

3つ目の道は、再帰的な自己改善である。これは「知能爆発」と最も容易に結びつく道筋です。これは、AIがAIの研究開発に参加し始め、それによって次世代AIの進歩を加速させることを指します。この自己改善は、AIが自身のコードを修正することだけにとどまりません。これには、AIがより優れたモデルアーキテクチャの設計、トレーニングプロセスの最適化、より高品質なデータの生成、チップやコンピューティングシステムの設計、そして実験の自動実行と結果の分析を支援することも含まれます。AIがAIの研究開発の効率を大幅に向上させることができれば、正のフィードバックループが形成される可能性があります。より高度なAIは、さらに高度なAIの開発を促進し、それがひいては研究開発の効率をさらに向上させる。

しかし、この論文は、そのような爆発的な進歩が必ず起こると断言しているわけではない。再帰的な自己改善は、現実世界における摩擦にも直面するだろう。より大規模なモデルはより高価な実験を必要とし、より高度なチップは実際のサプライチェーンに依存し、より複雑な科学的問題は物理世界での検証を必要とする。AI研究者がデジタル世界で高速に作業できたとしても、実験サイクル、製造サイクル、およびリソースの制約によって、依然として速度が低下する可能性がある。

4つ目の道筋は、大規模なマルチエージェントシステムからASIが出現するというものである。超知能は必ずしも単一のモデルから生まれるわけではなく、多数の汎用人工知能（AGI）の集合体から生じる場合もある。人類文明の能力は、個々の脳からではなく、言語、制度、組織、市場、科学コミュニティ、そして専門化から生まれている。もしAIエージェントも同様、あるいはそれ以上に効率的な協働構造を形成できるのであれば、超知能（ASI）は「組織的知能」の創発的な結果である可能性もある。

この文脈において、未来の超知能は、完全に自動化された巨大企業、デジタル研究コミュニティ、あるいは無数の専門的な知的エージェントで構成される自己組織化システムに似ているかもしれない。それらは分業、協力、レビュー、複製、再編成を行い、人間の組織をはるかに凌駕する速度で経験を蓄積することができる。したがって、汎用人工知能（AGI）から超知能（ASI）への進化は、必ずしも特定のモデルにおける突然の質的な変化ではなく、また必ずしも一つの技術的な道筋しかないわけでもない。それは、規模拡大、パラダイムシフト、自己改善、そして複数主体による協働といった要素が複合的に作用した結果である可能性が高い。

6つのボトルネック：速度を決定する摩擦力とは？

4つの道筋がAIがどのように前進し続けることができるかを示しているとすれば、6つのボトルネックは、この進化がどこで抵抗に遭遇し、どのような要因がその速度を遅らせる可能性があるかを論じている。

まず、データ今日の大規模モデルは、質の高い人間のデータを用いた学習に大きく依存しているが、テキスト、コード、画像、動画、専門知識といったデータは無限ではない。今後モデルが拡大し続けると、データ需要は人間が自然にデータを生成する速度を上回る可能性がある。合成データ、自己対戦、シミュレーション環境などが新たなデータソースとなるかもしれないが、それらが常に十分な質の、新鮮で多様なデータを提供できるかどうかは未解決の問題である。

第二に、資源がある。コンピューティングの規模拡大は抽象的なものではありません。チップ、データセンター、電力、冷却システム、サプライチェーン、設備投資、そして技術者が必要です。超知能（ASI）の実現が、トレーニングと推論コンピューティングの継続的な拡大にかかっているとすれば、エネルギー、土地、高度な製造技術、ネットワークインフラ、そして設備投資はすべて現実的な制約となるでしょう。 AIの能力向上は、最終的にはアルゴリズムだけでなく、現実世界がますます大規模化するコンピューティングシステムを支えられるかどうかにも左右される。

第三に、既存のニューラルネットワークのパラダイムは十分なものだろうか？大規模モデルアプローチは大きな成功を収めてきたが、成功は限界がないことを意味するものではない。現在のシステムは、長期的な自律行動、継続的な学習、堅牢な因果推論、抽象概念の発見、複雑な環境における信頼性の高い計画立案など、より高度な汎用知能へと移行するために必要なコア機能をまだいくつか欠いている可能性がある。これらの問題が単純なスケーリングでは解決できない場合、汎用知能から超知能への移行は単に「規模を大きくする」ことではなく、能力構造におけるさらなるブレークスルーを必要とする。

第四に、研究そのものがますます困難になるだろう。どの技術分野においても、初期段階では比較的容易な改善策が多く存在し、比較的直接的な改良によって大きな進歩が見込めることが多い。しかし、分野が成熟するにつれて、次の段階に進むには、より高いコスト、より大規模な実験、そしてより複雑な研究システムが必要となる。AIも例外ではないかもしれない。真の不確実性は、AIが研究効率を、研究自体の難しさよりも速いペースで向上させることができるかどうかにある。

第五に、抽象化という障壁がある。今日のAIは主に膨大な量の人間データに基づいて訓練され、人間が既に表現している概念、言語、知識、推論パターンから学習します。しかし、人間がまだ発見していない新しい概念、科学理論、抽象構造を発見する必要があるASI（モノの人工知能）へと移行する場合、AIは本当にそれを達成できるのでしょうか？AIが既存の知識を単に再編成するだけでは、人間の科学コミュニティを真に凌駕することは困難です。生データと現実世界の相互作用から、新しい構造、新しい変数、新しい因果関係を発見する能力が必要です。より現実的には、多くの新しい抽象概念は物理的な実験によって検証されなければなりません。AIが仮説を迅速に立てることができたとしても、実験サイクル、製造条件、現実世界からのフィードバックの速度によって制限される可能性があります。

最後に、人間社会の活動を意図的に減速させるという側面がある。 AIは孤立して発展するものではありません。その能力が向上するにつれ、セキュリティ、倫理、雇用、軍事、金融、教育、情報伝達、社会統治といった問題がより深刻化していくでしょう。高度なAIシステムが重大な事故を引き起こしたり、社会がリスクがメリットを上回ると認識したりすれば、規制、国際協定、業界の自主規制、そして世論が積極的にブレーキをかける可能性があります。もちろん、こうした減速は経済的・地政学的な競争によっても相殺されるため、それ自体が複雑な要因となります。

これら6つのボトルネックは、汎用人工知能（AGI）から超知能（ASI）への進化の速度を総合的に決定づけるものであり、超知能の問題は技術的な問題だけでなく、資源、組織、科学、そしてガバナンスの問題でもあることを改めて認識させるものでもある。

それは特異点ではなく、一連の変化である。

超知能に関する議論の多くは、未来を単一の決定的な出来事、すなわちある日突然汎用人工知能（AGI）が出現し、世界を瞬時に書き換えるというものとして描きがちである。しかし、本稿はより複雑で現実的な未来像を提示する。 汎用人工知能（AGI）と超知能指数（ASI）の間には、明確で劇的な境界線は存在しないかもしれない。より可能性が高いのは、AI主導の科学的、技術的、社会的な変化が次々と積み重なり、世界は進化を続ける中で、最終的には全く異なる状態へと導かれるだろうということだ。

まず最初に変えるべきは、科学的発見のスピードかもしれない。AIが文献を読み、仮説を立て、実験を設計し、シミュレーションを実行し、データを分析し、研究の道筋を継続的に最適化できるなら、科学研究は、「人間研究者がAIツールを使用する」という形態から、「人間とAIが共同で研究システムを構築する」という形態へと移行するだろう。将来の画期的な発見は、必ずしも一人の天才から生まれるとは限らず、高速かつ継続的に反復されるデジタル研究ネットワークから生まれる可能性もある。

第二に、組織構造が変更された。今日の企業、研究所、政府機関は依然として人間中心のモデルで運営されている。人間の時間、集中力、記憶力、通信帯域幅、学習速度といった要素が、組織の能力の限界を決定づけている。しかし、AIエージェントは並列処理が可能で、シームレスに自己複製し、高速で経験を共有し、必要に応じて迅速に生成・再構成することができる。未来の組織は、もはや人間だけで構成されるのではなく、人間、AIエージェント、自動化されたプロセス、知識ベース、ツールシステム、そして外部環境から構成されるようになるかもしれない。

変わる可能性があるのは、人類自身の役割に対する理解である。汎用人工知能（AGI）が単なるツールに過ぎない場合、意思決定と創造の主要な役割は依然として人間が担うだろう。しかし、AIシステムが継続的に学習し、連携し、自己改善を続け、ますます多くの分野で専門組織を凌駕するようになれば、人間社会は権力、責任、労働、教育、創造性、そして統治構造を再考せざるを得なくなる。そうなれば、問われるのは「AIは人々に何をもたらすのか」ではなく、「人々は高度な知能システムの中で、どのように自らを再定義していくのか」という問いになるだろう。

これは必ずしも悲観的な結末を意味するものではない。この論文は未来を単にユートピアやディストピアとして描いているわけではない。真に強調しているのは不確実性である。AIの進歩は、人間のレベルに近い水準まで減速する可能性もあれば、加速し続ける可能性もある。それは、インターネットやスマートフォンといった、深く浸透しつつも徐々に普及していく汎用技術となるかもしれないし、あるいは、これまでの技術革命をはるかに凌駕する、絶え間ない衝撃をもたらすかもしれない。

したがって、汎用人工知能（AGI）後の世界に対する最も危険な姿勢は、楽観主義でも悲観主義でもなく、AGIを最終目標と捉えることである。AGIが実現すれば、真の問題はそこから始まるに過ぎない。その時、人類はより強力なツールだけでなく、複製、加速、共同作業、経験の蓄積、そして自らの進化を推進できるデジタル知能システムに直面することになるかもしれない。

チューリングはかつてこう書いた。「我々はほんの少し先のことしか見通せないが、やるべきことは山ほどあることは分かる」。この言葉は、今日のAI時代を的確に言い表していると言えるだろう。汎用人工知能（AGI）や超知能（ASI）がいつ実現するかを正確に予測することはできないし、最終的にどちらの道が主流になるかも確信できない。しかし確かなことは、AIが知能の連続体に沿って進化し続けるならば、人類は単なる技術的な節目だけでなく、深く継続的な変革に備える必要があるということだ。

汎用人工知能（AGI）は終わりではない。人類が真に超知能の入り口に立ったのは、これが初めてなのかもしれない。