Auf der laufenden Black-Hat-Konferenz in Las Vegas hat die Open Secure AI Alliance, ein von der Linux Foundation koordiniertes Netzwerk mit über 120 Mitgliedsorganisationen, neue Leitlinien zur Stärkung der Cybersicherheit für autonome KI-Systeme vorgestellt. Im Mittelpunkt steht das Shared AI Findings Exchange (SAFE)-Framework, das als gemeinsamer Standard für die vertrauliche Erfassung, Analyse und den transparenten Austausch von KI-Sicherheitsvorfällen und Beinahe-Katastrophen konzipiert wurde. Ziel ist die Entwicklung evidenzbasierter Empfehlungen zur Reduzierung systemischer Risiken in agenticen KI-Ökosystemen. Das SAFE-Framework wird von einer spezialisierten Arbeitsgruppe der Allianz erarbeitet, an der Hersteller wie NVIDIA, Cisco, CrowdStrike, Hugging Face und Red Hat aktiv mitwirken. Die Leitlinien sehen vor, Vorfälle systematisch zu dokumentieren, betroffene Parteien unverzüglich zu informieren, wiederkehrende Kontrollversagen zu identifizieren und branchenweite Sicherheitspraktiken zu standardisieren. Dies schafft eine kollektive Abwehrstruktur, die bei der rasanten Weiterentwicklung autonomer KI-Agenten notwendig ist, da traditionelle, isolierte Verteidigungsansätze den neuen Angriffsflächen nicht mehr gerecht werden. Neben dem Transparenzrahmen präsentiert die Allianz ein umfassendes Paket an Open-Source-Tools, die den gesamten Sicherheits-Stack abdecken. NVIDIA liefert mit NOOA, OpenShell sowie den offenen Modellfamilien Nemotron und Cosmos die Grundlagen für Testbarkeit, Governance und datenschutzkonforme Datenerzeugung. Werkzeuge wie der Vulnerability-Scanner Garak und NeMo Guardrails ermöglichen das frühzeitige Erkennen von Prompt-Injections und Datenlecks. Andere Mitgliedsunternehmen spezialisieren sich auf spezifische Schichten: Okta und Palo Alto Networks entwickeln Standards für die Authentifizierung und Rechteverwaltung, während Amazon mit Cedar ein präzises Autorisierungssystem und Microsoft mit PyRIT sowie RAMPART automatisierte Red-Team-Tools bereitstellen. Red Hats Projekt asago übersetzt Governance-Vorgaben wie den EU AI Act direkt in durchsetzbare Runtime-Kontrollen. Für die Überwachung und Fehlerbehebung tragen Lösungen von Uber, Wiz, Visa, Akamai und Perplexity bei. Diese ermöglichen die lückenlose Nachverfolgung von Agentenentscheidungen, autonomes Vulnerability-Research und die Erkennung schädlicher Aktivitäten auf Endgeräten. Zur Sicherstellung der Systemresilienz erweitern Anbieter wie LangChain und Veeam ihre Frameworks um Mechanismen für automatische Wiederherstellung, Zustandsmanagement und Ausfallsicherheit unter Last. Die Maßnahmen werden am heutigen Dienstag, den 4. August, um 17:15 Uhr an der Hauptbühne des Mandalay Bay Convention Center präsentiert. Die Initiative markiert einen strategischen Wandel hin zu offenen, prüfbaren Sicherheitsarchitekturen, da sich der Schutz autonomer KI nicht mehr auf reine Penetrationstests beschränken lässt, sondern Identitätsmanagement, Laufzeitgovernance, modellinterne Sicherheit und kontinuierliche Bedrohungsanalyse integrieren muss. Durch die Öffnung der Codebasen und Sicherheitsdaten soll die Widerstandsfähigkeit des gesamten Technologie-Ökosystems gegenüber sich entwickelnden KI-spezifischen Angriffsmustern nachhaltig gestärkt werden.