AIの父が警告「AIが人間には理解できない内部言語を生み出す可能性」

「AIの父」と称されるジェフリー・ヒントン氏が、人工知能が人間が理解できない独自の言語を創出する可能性について警告した。ヒントン氏は2024年のノーベル物理学賞を受賞し、機械学習分野における革新的な貢献が認められた。7月24日に放送された「One Decision」ポッドキャストのインタビューで、彼は現在のAIは「思考の連鎖（chain of thought）」を英語で行っているため、開発者がその推論プロセスを追跡できるが、将来的にはAI同士が独自の内部言語を用いてコミュニケーションを取るようになる可能性があると指摘した。その場合、人間はAIの思考や計画を理解できなくなると危惧した。 「AIが『ひどい』考えを抱くこともあり得る。自分たちの言語で考え始めたら、私たちが何を言っているのかさえ分からない状態になるかもしれない」と語った。彼は、多くの専門家がAIが人間を上回る知能を持つ日が来る可能性を認めつつも、その時、人間がAIの行動を理解できなくなるリスクを強調した。 ヒントン氏は、テクノロジー企業のリーダーたちがAIの危険性を公に軽視していると批判。そのリスクとして、大量の職業が消失する可能性を挙げた。AIが人間に対して悪意を持たないよう保証する方法を確立する以外に、AIの悪用を防ぐ道はないと述べた。 一方で、米国政府もAI競争への対応を加速。7月23日にはホワイトハウスが「AI行動計画」を発表し、規制が厳しい州へのAI関連資金の制限を提案。同時に、AIデータセンターの迅速な整備を求める方針を示した。ヒントン氏の警告は、技術の進化と人間の理解力の遅れの間にある根本的なギャップを浮き彫りにしている。