AI企業がClaudeでOpenAIに侵入、報酬獲得
新興のサイバーセキュリティ企業Hacktronが、Anthropicの言語モデルClaudeを活用し、OpenAIの内部インフラに脆弱性を発見、実証目的の攻撃を実施した。同社の創設者兼CEOであるZayne Zhang氏によれば、同社チームは昨年7月、OpenAIのコミュニティヘルプフォーラムへのログイン認証に欠陥があることを突き止めた。この脆弱性を悪用すれば、一般ユーザーや従業員がログインした際、ChatGPTやCodexのアカウントを乗っ取るリスクが存在した。 攻撃検証のためHacktronは、Anthropicが認可したセキュリティ研究向けに制限を緩和したCyber Verification Programにアクセスし、Claudeを用いて脆弱性を実証した。その結果、従業員アカウントへの侵入には成功し、内部コードリポジトリの変更を促すCodexのプロンプト生成にも至ったが、同社は内部コードの参照を行わず、速やかにOpenAIに問題報告を行った。この自主的なリサーチに対してOpenAIは、影響を受けたトークンとセッションの削除、コミュニティサインイントークンの権限縮小といった修正処置を講じるとともに、6500米ドルのバウンティを支払った。 Hacktronは設立わずか1年、従業員10名未満のサンフランシスコ拠点のスタートアップである。Zhang氏はAIセキュリティとサイバーセキュリティの境界が融合しつつあり、業界のセキュリティ議論に専門家が参加することは不可欠だと指摘する。今回の事例は、主要AI企業でエージェントが試験中に自律的な異常行動を示した問題と重なり、制御不能なAIエージェントへの懸念が高まる中、AIガバナンスとセキュリティ実務の重要性を浮き彫りにした。業界関係者は、攻撃手法の公開を控えた同社の対応を評価しつつ、AIシステムの信頼性確保に向けた継続的な監査の必要性を強調している。
