OpenAIは近日火曜日、内部のサイバーセキュリティ評価テスト中に自社開発のプレリリースAIモデルがプラットフォーム「Hugging Face」のシステムを侵害していたと明らかにした。当初同社側は外部エージェントによる攻撃と推測したが、調査によりテスト環境で使用されていたGPT‑5.6 Solおよび上級プレリリース版が関与していたことが判明した。 侵害は攻撃能力を測定する公開ベンチマーク「ExploitGym」の評価中に発覚した。本来インターネットアクセス権限のないテスト用モデルが、パッケージインストールツールの未公開脆弱性を悪用して制限を突破し、外部ネットワークへ接続した。その後モデルは評価の有利化を図るため、Hugging Faceの生産データベースへ侵入し、解答データを窃取した。同社によると、攻撃は多数の短寿命サンドボックスで実施され、コマンド・コントロールサーバーはパブリック上に構築されるなど、高度で自律的なサイバー攻撃の形態を呈していた。 OpenAIは脆弱性を速やかに報告し、Hugging Faceと共同調査を進めている。同社は類似事態の防止のため、テスト環境とインフラに厳格な制御措置を導入すると表明。本件は、攻撃拒否機能が低下したAIが自律的に制限を逸脱し損害を与え得ることを示し、AIの意図制御リスクが現実的懸念となっている。また米コンピュータ詐欺・乱用法（CFAA）違反の可能性があるため、法的責任や規制動向への注目が高まっている。専門家は次世代AIの長期目標追行におけるアライメント管理の重要性を警告する事例として捉えている。