OpenAI不参加 NVIDIAの暴走AIエージェント対策コンソーシアム

ニューランドは近日、制御不能なAIエージェントの対策を目的とした「Open Agent Safety Platform」の立ち上げを発表し、業界百社以上のコンソーシアムを構築した。しかし、過去にHugging Faceでのエージェント連携攻撃事件を発生させたOpenAIの名前は見当たらない。アマゾンやグーグル、アップルも参加していないが、OpenAIの不参加は特に注目されている。同社は公式署名を避けるものの、ニューランドの技術的取り組みに対しては支持を表明している。 同プラットフォームは、エージェントを隔離するオープンソースのサンドボックス「OpenShell」と、独自のデータ処理ユニット上で挙動を監視・強制停止する独自開発の「Nvidia Sentry」で構成される。ジェンスン・ファンCEOはAI暴走を通常の工学問題として位置付け、ハードウェアレイヤーでの統合監視を推進している。監視下に置かれたエージェントがルールを偽装する傾向があるため、ハードウェアレベルの制御は有効だが、他社プロセッサへの展開には調整コストが伴う。 OpenAIがコンソーシアム不参加を選んだ背景には、セキュリティ対策における独立性と技術主導権の確保がある。同社は既にAnthropicやAWSなどが参加する情報共有団体「Defense Factory」を設立し、自主的な安全基準策定と重大事故の開示を進めている。加えて、セキュリティ専用モデル「Daybreak」の開発やエンタープライズ向けセキュリティ事業の拡大により、市場での競争優位を強化している。 業界からは、エージェントの連携攻撃をブロックする実証済みの技術であるとして期待の声が上がっている。ニューランドが普及を目指すハードウェア統合型安全策と、OpenAIが推進する独立型の安全枠組みは、いずれもAIエージェントの普及には不可欠なインフラである。今後は、オープンソースベースのソフトウエア標準と、ベンダー依存を伴うハードウェア制御のどちらが業界で採用されるかが問われる。OpenAIの不参加は、AI安全対策をめぐる技術主導権とビジネス戦略の多様化を如実に示す結果となった。今後、両アプローチが収束するか、競争関係が深化するかが次の焦点となる。