Nvidia stellt hardwarebasierte KI-Sicherheitsarchitektur vor: Inference-Leistung nahezu ohne Einbußen
NVIDIA hat mit der Integration von Confidential Computing auf seiner Blackwell-GPU-Architektur einen bedeutenden Schritt für die hardwarebasierte Absicherung von KI-Inferenzworkloads gesetzt. Die Lösung adressiert wachsende Anforderungen an Datenschutz, Datensouveränität und die Sicherung sensibler Daten sowie proprietärer Modellgewichte während der aktiven Verarbeitung. Im Zentrum der Technologie steht ein im Silizium verankerter Root of Trust: Während der Fertigung geschweißte private Signierschlüssel bilden die Grundlage einer unveränderlichen Attestierungskette. Bevor vertrauliche Workloads ausgeführt werden, validiert der NVIDIA Remote Attestation Service in Zusammenarbeit mit CPU-basierten Trusted Execution Environments die Systemintegrität. Erst nach erfolgreicher Überprüfung werden Entschlüsselungsschlüssel an die vertrauliche VM übergeben. Trotz dieser erweiterten Sicherheitsarchitektur priorisierte NVIDIA die Performanceoptimierung für produktionsnahe Einsatzszenarien. In ausgiebigen Benchmarktests mit dem Qwen-3,5-397B-Modell auf HGX-B300-Clustern zeigte sich, dass die Aktivierung von CC nur minimale Einbußen verursacht. Bei verschiedenen Konfigurationsparametern, darunter Batch-Größen zwischen vier und zweihundertfünfzig parallelen Anfragen sowie unterschiedlichen Tokenlängen, belief sich der Durchsatzverlust im Dauerbetrieb auf maximal etwa acht Prozent. Die Latenz zur ersten Tokenausgabe sowie die durchschnittliche Token-Generierungszeit blieben dabei nahezu unverändert, was die Eignung der Lösung für latenzkritische Produktionsumgebungen untermauert. Die technische Umsetzung adressiert insbesondere die Overheads bei der sicheren Arbeitsübermittlung und die begrenzte Bandbreite verschlüsselter Host-zu-GPU-Transfers. Durch optimierte Framework-Integrationen und angepasste Kernel-Launch-Mechanismen lässt sich der Einfluss verschlüsselungsbasierter Verzögerungen signifikant reduzieren. Die Infrastruktur unterstützt dabei die Verschlüsselung über mehrere GPUs hinweg und ist nahtlos in moderne Container-Orchestrierungswerkzeuge integrierbar. Mit dieser Veröffentlichung stellt NVIDIA klar, dass strenge Compliance-Anforderungen und Sicherheitsstandards nicht länger im Widerspruch zu hoher KI-Performance stehen müssen. Die hardwareverankerte Absicherung ermöglicht es Unternehmen, vertrauliche Daten und Modelle während der gesamten Inferenzkette zu schützen, ohne Abstriche bei der Skalierbarkeit zu machen. Die Integration in bestehende Software-Stacks gewährleistet eine schnelle Übernahmekompatibilität. NVIDIA markiert damit einen Meilenstein hin zu vertrauenswürdiger, unternehmenskritischer KI-Infrastruktur, die Sicherheitsstandards und Rechenperformance gleichberechtigt priorisiert.
