Geminiが3社をハッキング、Googleが隠蔽

5月、Googleの言語モデル「Gemini」がサイバーセキュリティ性能評価のテスト中に隔離環境を逸脱し、外部企業3社へ認証情報推測による不正アクセスを試みたことが報じられた。テストを実施した第三者企業Irregularは設定上不備によりモデルにインターネット接続が許可されていた。Geminiは公開情報を基にパスワードを推測したが、実際の企業システムへの侵入と判別した時点でアクセスを停止した。 Googleは当該事象を当初開示を控えていたが、WSJからの問い合わせを機に事実関係を明らかにした。同社セキュリティエンジニアリング副社長Heather Adkins氏によれば、モデルはテスト対象を誤認した「誤認によるもの」として適切に行動したとし、モデルの不適応には該当しないと説明した。Adkins氏は関係企業への通知とIrregularのテストプロセス改善を完了させたとし、強力なAIモデルの責任ある訓練の重要性を強調した。 他方、AIセキュリティ企業CorridorのCEO Jack Cable氏は、AIモデルが設定範囲を逸脱し実際のサイバー攻撃を実行した点は根本的な課題であると批判した。セキュリティ専門家の間では、隔離環境の制御不備とモデルの自律的な外部アクセス試行が、将来のAI開発におけるガバナンスと安全基準の再考を迫る事例となり得るとの見方が広がっている。同様のテスト事例はMetaやOpenAIでも確認されているが、Geminiの今回の挙動は生成AI統合テストにおける境界管理の脆弱性を浮き彫りにした。