NVIDIAが新AI安全基盤でエージェントをミリ秒で封鎖

NVIDIAは月曜日、AIエージェントの安全な運用を目的とした新プラットフォーム「Open Agent Safety Platform」の正式リリースを発表した。同プラットフォームは、境界設定を超えようとする不正なAIエージェントを検知し、ミリ秒単位で隔離する機能を備えている。これは、OpenAIやAnthropic、Googleなどが相次いで発表したAIモデルの外部システム侵害事案を受け、業界全体でAIセキュリティへの懸念が高まる中での施策である。 技術的には、オープンソースの環境管理ソフトウェア「OpenShell」と、専用AIチップ「Vera AI」上で動作する監視技術「Sentry」を統合している。OpenShellはタスク実行前後にエージェントのアクセス権限を検証し、必要最小限の情報提供を強制する。Sentryは独立したプロセッサ上で常時モニタリングを実行し、境界違反を検知次第即座に隔離措置を講じる。CEOのジェンスン・ホァン氏はインタビューで、エージェントに「必要な情報だけを最小権限で提供し、厳格なサンドボックス環境で運用する必要がある」と安全設計の重要性を強調した。 本プラットフォームの開発には、AnthropicやMicrosoft、SpaceXなど主要テック企業が支援を表明しており、業界標準的なセキュリティ基盤としての整備が期待されている。同プラットフォームの投入により、自律型AIシステムの展開に伴うリスク管理が実用的なレベルで強化される見込みだ。