Google の研究により、AI シンギュラリティが単一の巨大な思考体として人類を超えた知能に到達するという従来の概念は根本的に誤っている可能性が示されました。論文は歴史上の知能爆発がすべて個体の能力向上ではなく、社会的な集約によって起こったと主張しています。霊長類の脳が社会的群れの規模と共に進化し、言語や文字、そして制度が知能を外部インフラへと昇華させてきたプロセスは、AI 開発の次の段階でもあります。実際、最先端の推論モデルは訓練されていないにもかかわらず、内部で多角的な議論や対話を行う「思考の社会」を自発的に形成しています。これは、強化学習によって精度のみが求められた結果、モデルが堅牢な推論には社会的プロセスが必要だと独自に発見したことを意味します。 したがって、より強力な AI への道は、一つの巨大な管理システムを構築することではなく、より豊かな社会的システムを構成することにあります。今後のアーキテクチャは、人間と AI が融合した「ケンタウルス」型のアンサンブル、すなわち人間と機械の複合的なエンティティへと移行すると予測されます。エージェントは専門化された役割で分岐し、サブタスクを処理した後、結果を再結合する組織的な構造を示すようになります。このような分散型の知能において、ガバナンスは単なる「緊急停止ボタン」ではなく、権力分立やチェック・アンド・バランスの仕組みをシステム内に組み込む必要があります。例えば、労働省の AI が企業の採用アルゴリズムを検査したり、司法機関の AI が行政 AI のリスク評価を憲法基準で検証したりする、多様な価値観を持つ AI システムが相互に監視し合う構造が提案されています。 この plurality（多元性）のモデルは、存在しないかもしれない単一の技術的突破を防ぐことに注力する政策から、人間と AI が混在する社会システムの設計、規範、制度の構築へと関心の焦点を移します。知能は単一の超知能ではなく、都市のように増大していきます。都市には中央の知能はありませんが、地域、制度、インフラ、対立、調整があり、個々の居住者よりもはるかに高い能力を発揮します。次の知能爆発は単一の画期的なモデルからではなく、数十億の人々が数百億の AI エージェントと相互作用する結果として生まれるでしょう。これは神の出現ではなく、文明の形成そのものです。