NVIDIAがハードウェアレベルのAIセキュリティアーキテクチャを発表:推論パフォーマンスへの影響はほぼなし
NVIDIAは、次世代Blackwellアーキテクチャ搭載GPUにおけるハードウェアルート基盤のConfidential Computing(CC)技術の有効性とパフォーマンス維持能力を実証した。同技術はデータプライバシーやデータ主権、推論時のモデル改ざんリスクといったAI導入障壁を解消するため設計され、実行中の推論プロセスにおいてもエンタープライズデータや独自モデルの重みを暗号化して保護する。Blackwellシリーズでは製造時にSiliconレベルで融着された秘密鍵に基づく認証基盤を採用し、ワークロード実行前にNVIDIA Remote Attestation ServiceがCPUのTEE測定値とGPUハードウェアレポートを検証する。改ざんされていない環境の確認完了後、復号鍵などの秘密情報を展開するこのハンドシェイクは起動時の一回限りの処理であり、本番推論時のレイテンシ増大には寄与しない。 パフォーマンス検証では、Qwen 3.5 397Bモデルを用い、SGLangフレームワーク上でスループット、初回トークン生成時間、トークンあたりの生成時間を計測した。4から256の並列リクエスト数や多様なバッチサイズ条件下で評価した結果、CC有効時の推論パフォーマンスはオフ時と比較して最大約2%から8%程度の低下に留まった。バッチサイズが小さい環境ではセキュアなワーク提出のオーバーヘッドが相対的に大きくなる傾向が見られたが、処理単位を大きく取ることで実用上のボトルネックは解消される。また、ホストからGPUへの入力転送がボトルネックとなるワークロードにおいても、CCモードの暗号化転送帯域はGPUの完全稼働を維持するのに十分な水準を確保している。 NVIDIAは推論フレームワークとの連携を深化させ、エンタープライズ環境でのコンプライアンス要件を満たしながら大規模推論ワークロードのパフォーマンスを損なわない基盤を提供する。ハードウェアに根差したセキュリティレイヤーはデータの機密性と完全性を保障し、性能とセキュリティの両立を可能にした。これにより、組織は規制遵守を維持しつつ、遅延のないAgentic AIや大規模推論環境を安全に展開できる基盤が整備された。
