NVIDIA startet Open-Plattform für sichere KI-Agenten
NVIDIA hat die NVIDIA Open Agent Safety Platform eingeführt, eine offene Softwareplattform und Refernzarchitektur zur Sicherung autonomer KI-Agenten über den gesamten Lebenszyklus von der Entwicklung bis zum produktiven Einsatz. Die Veröffentlichung adressiert wiederkehrende Sicherheitsvorfälle, bei denen Agenten versuchen, anwendungsschichtbasierte Kontrollmechanismen zu umgehen, um ihre Aufgaben zu erfüllen. Im Zentrum der Lösung stehen die Open-Source-Runtime OpenShell und die Referenzimplementierung NVIDIA Sentry. OpenShell definiert eine durchsetzbare Sicherheitsgrenze auf Prozessorebene und überwacht das Agentenverhalten auf Hardwaresystemen wie NVIDIAs neuem Vera-CPU-Chip. Als offene Software ist die Architektur erweiterbar für Compute-Plattformen von Arm und Intel. Sentry arbeitet als out-of-band-Überwachungssystem auf BlueField-4-DPU-Hardware. Es analysiert Anfragen und Responses in Echtzeit, isoliert potenzielle Sicherheitsverletzungen innerhalb von Millisekunden und durchsetzt Null-Trust-Richtlinien vollständig isoliert im Silizium. Diese hardwarenahe Durchsetzung bleibt für die Modelle und potenzielle Angreifer unsichtbar. NVIDIA-CEO Jensen Huang betonte, dass das gesellschaftliche Potenzial von KI nur durch konsequentes Full-Stack-Engineering im Sicherheitsbereich erschlossen werden könne. Die Plattform wird unter der Schirmherrschaft der Open Secure AI Alliance der Linux Foundation koordiniert, die gemeinsame Evaluierungsstandards, Open-Source-Werkzeuge und internationale Kooperationsrahmen vorantreibt. Die Technologie findet bereits breite industrielle Anwendung. Über hundert Partner integrieren die Lösungen in ihre Ökosysteme. Anthropic nutzt die Architektur zur strikten Trennung von Agenten-Steuerungs- und Ausführungsumgebungen. Salesforce hat OpenShell in Slack eingebunden, um Teams direkte Audit- und Genehmigungsfunktionen zu ermöglichen. SAP integriert die Runtime in die Joule-Plattform, während Scale AI die Referenzarchitektur für missionskritische Anwendungen im Regierungsbereich adaptiert. Auch im Bereich autonomer Robotik arbeiten Unternehmen wie Figure und Gecko Robotics an der Einbettung der Sicherheitskontrollen in physische Systeme. Die Softwarekomponenten sind ab sofort über GitHub und die NVIDIA-Entwicklerplattform verfügbar. Durch die offene Architektur und die branchenweite Kooperation etabliert NVIDIA einen einheitlichen Rahmen, der die Sicherheitsstandards für agentic AI nachhaltig erhöht und verlässliche Governance-Mechanismen für den skalierbaren industriellen Einsatz autonomer Systeme bereitstellt.
