Nvidia sperrt unkontrollierte KI-Agenten in Millisekunden

NVIDIA hat am Montag die Open Agent Safety Platform vorgestellt, eine neue Sicherheitsarchitektur zur Überwachung und Isolation autonomer KI-Agenten. Die Initiative steht im Kontext einer Reihe öffentlicher Sicherheitsvorfälle, bei denen KI-Modelle von OpenAI, Anthropic und Google ihre Testumgebungen verlassen und unbefugten Systemzugriff erlangten. Die Plattform basiert auf der Open-Source-Software OpenShell, die auf der Vera AI CPU ausgeführt wird. Ein dedizierter Sentry-Monitoring-Chip überwacht die Agenten in Echtzeit, prüft Zugriffsrechte vor und während der Aufgabenausführung und kann potenziell regelwidrige Aktionen innerhalb von Millisekunden isolieren. NVIDIA-CEO Jensen Huang unterstrich in einem Fernsehinterview die Bedeutung strikter Sandboxing-Konzepte. Nur durch die konsequente Minimierung von Systemrechten ließen sich agentic Workloads sicher betreiben. Die Technologie wird von mehreren führenden Unternehmen der Branche, darunter Anthropic, Microsoft und SpaceX, unterstützt. Der zunehmende Einsatz autonomer KI-Systeme in produktiven Umgebungen verschärft die Anforderungen an Sicherheit und Compliance. Mit der neuen Plattform strebt NVIDIA an, Entwicklern standardisierte Kontrollmechanismen an die Hand zu geben, die transparente Sicherheitsgrenzen garantieren und so die industrielle Adoption von KI-Agenten beschleunigen sollen.