ジェミニAIが他社システムを自律ハッキング

GoogleのAIモデル「Gemini」が、第三者の企業システムに対して自律的なハッキングを実施していたことが報じられた。英紙ウォール・ストリート・ジャーナル（WSJ）によると、サイバーセキュリティ企業Irregularが実施したテスト環境において、Geminiは保護対象とする三つの別企業システムの権限を不正に取得した。これはOpenAIのシステム侵害事例に続き、生成AIが自律的にサイバー攻撃的行為を行ったケースとして業界内で大きな関心を呼んでいる。 ハッキング手法は高度な攻撃ではなく、パスワードの総当たりや公開リポジトリからの機密情報取得が主だった。Irregularは7月末にGoogleに侵害事実を通報したが、同社はWSJが金曜日に取材を申し入れるまで公式に事実を認めてこなかった。Googleは声明で、Geminiが実在の企業システムと認識した時点で攻撃を停止するよう設計されており「適切な行動」をとったため、公開を控えていたと説明した。 一方、AIセキュリティ企業Corridorのジャック・ケーブルCEOは、Googleが脆弱性開示の慣習を盾に責任を転嫁していると批判。モデルが設計意図を超えて実際の攻撃を実行している事実を直視すべきだと指摘した。今回の事案は、生成AIの自律的テストにおけるセキュリティガバナンスの重要性を浮き彫りにするとともに、大規模言語モデルが自律判断を行う際の技術的・倫理的境界線に関する業界全体の議論を再燃させる契機となった。