AI研究自動化が「知能爆発」招く、22学者警告

ケンブリッジ大学AI科学・政策プロジェクトは近日、ヒントン氏ら22人のAI先端研究者による論文を発表し、AI研究開発の自動化が「知性爆発」を誘発する可能性を警告した。AIが次世代AI開発を自律化すれば、技術進歩が数年から数週間に劇的に圧縮されるとした。 主要企業の内部データは自動化傾向を裏付けている。Anthropicによると、2024年夏時点でコード生成の80％以上をモデルが担い、研究タスクの約3割を自律処理可能となっている。OpenAIでも人間の研究日数に対しAIエージェントの作業効率が3倍以上に拡大し、従来数日要した実験設計や評価作業が急速に自動化されている。 研究者らは開発効率の向上がAI自身進化を加速させるフィードバックループを指摘する。研究努力の収益率が1.2〜1.9と算出されていることから、制約がなければ年間進歩が約1年半で10倍に拡大し、最終的に年間進展が5週間で完了する試算を示した。ただし、GPUや電力などのインフラ制約と戦略的判断に人間監督が不可欠な点は現実的なボトルネックとして認識されている。 論文が最も懸念するのは、技術進化が社会の調整能力を凌駕するリスクだ。規制整備や防御構築が遅延する中、自律開発による監視機能の低下や、特定主体への技術集中による力関係転換が深刻化すると警告する。著者らは単なる減速を求めるのではなく、自動化進捗の可視化に基づく透明報告制度、第三者監査の実施、異常時停止メカニズム、および危機管理計画策定を提言している。AI開発自律化の本格化に伴い、外部検証可能なガバナンス枠組みの整備が喫緊の課題となっている。