OpenAIは、自社の大規模言語モデルを対象に自動攻撃を行う安全テスト専用モデルGPT-Redの開発を発表した。本モデルは従来の人力によるレッドチームリング作業を自動化し、LLMのセキュリティ耐性を強化することを目的としている。GPT-Redは防御モデルとの自己対戦により訓練され、シミュレーション環境下で网页閲覧やコード処理などの実世界シナリオを模した攻撃手法を探索する。この取り組みは直ちに最新旗モデルGPT-5.6の開発に反映され、OpenAIは同モデルをこれまでに最も堅牢なものと位置づけている。 研究チームによれば、GPT-Redは人力レッドチームを超え、発見されたことのない新しいプロンプトインジェクション攻撃を発見した。特に偽の思考連鎖という手口は、モデルの内部推論プロセスに虚偽の中間結果を埋め込み、誤った推論を強制的に継続させるもので、セキュリティ学界でも注目を集めている。GPT-Redを用いた評価試験では、過去のGPT-5モデルに対する攻撃成功率が90％を超えた一方、GPT-5.6では23％未満にまで低下し、セキュリティ強化の効果が数値で裏付けられた。 一方で同モデルは、複数ラウンドにわたる複雑な対話や画像を用いた攻撃には依然として不向きであり、OpenAIは人力セキュリティ研究者とのハイブリッド運用を推進する。実際の開発フローでは、人間が攻撃の概念設計を行い、GPT-Redがそのバリエーションを自動生成してテスト範囲を拡大する仕組みだ。Georgetown CSETのJessica Ji氏は、この自律型テストの方向性を合理的で展望が明るいとの見方を示しつつ、人間専門家の関与が不可欠である点を指摘している。 OpenAIはGPT-Redを非公開とし、長期にわたる大規模計算リソースを要するこのシステムの複製は困難と見なしている。AIエージェントの攻撃対象が実世界のリソースに拡大する中、自動化されたレッドチームリングはセキュリティ検証の新たな基準となりつつある。