Ein Forscherteam des Software Engineering Institute der Carnegie Mellon University hat in Zusammenarbeit mit Partnern aus Wissenschaft, Industrie und Nichtregierungsorganisationen die Open-Source-Plattform FLARE-AI entwickelt. Diese schließt eine bislang bestehende Lücke im Bereich der KI-Sicherheit, indem sie einen standardisierten und koordinierten Mechanismus zur Meldung von Schwachstellen in künstlichen Intelligenz-Modellen bereitstellt. Bisher fehlte der Community ein formaler Weg, um KI-Defekte zu dokumentieren, betroffene Anbieter zu alarmieren und Abhilfemaßnahmen branchenweit zu koordinieren. Über die Web-Oberfläche von FLARE-AI können Sicherheitsforscher, Entwickler oder Nutzer KI-bedingte Sicherheitslücken, Fehlfunktionen oder Vorfälle melden. Das System generiert daraufhin maschinenlesbare, normierte Berichte, die automatisiert an ausgewählte Empfänger weitergeleitet werden. Zu den Adressaten gehören neben den direkten Modellantwicklern auch Regierungsinstitutionen, Hosting-Plattformen, unabhängige Sicherheitsdienste und Datenbanken für Sicherheitsvorfälle. Durch diese Struktur wird verhindert, dass identische architektonische Schwachstellen, die in verschiedenen KI-Diensten auftreten, unentdeckt bleiben. Die technische Architektur von FLARE-AI orientiert sich bewährten Praktiken der traditionellen IT-Sicherheit. Ein zentrales Bindeglied ist die Integration in das Vulnerability Information and Coordination Environment (VINCE) des CERT Coordination Center. Die dort eingegangenen Meldungen werden vom CERT/CC sowie dem AI Security Incident Response Team des SEI geprüft. Bei bestätigten Schwachstellen leiten die Experten die koordinierte Offenlegung an alle betroffenen Drittanbieter und Integratoren weiter und vergeben Common Vulnerabilities and Exposures-Identifikatoren (CVE) sowie technische Vermerke. Dies ermöglicht eine systemweite Aufklärung und beschleunigt die Patches für die gesamte Lieferkette. Die Initiative entstand aus dem Erkenntnisgewinn eines Workshops im Jahr 2024, auf dem Experten den Bedarf an einheitlichen KI-Meldestandards und verbesserter Infrastruktur für den Austausch von Schwachstelleninformationen identifizierten. Technische Konzeption und Backend-Integration wurden maßgeblich von Greg Strom vom SEI sowie der technischen Direktorin für Threat Analysis, Lauren McIlvenny, vorangetrieben. McIlvenny betonte, dass die KI-Community durch die Übernahme etablierter Cybersecurity-Prozesse ihre Reife weiter steigere. Der Ansatz spiegle die historische Entwicklung bei Cloud Computing und industriellen Steuerungssystemen wider, die ebenfalls erst durch die Etablierung von Vulnerability-Management-Standards sicherer wurden. Im Einklang mit jüngsten Bundesinitiativen zur Stärkung der KI-Sicherheitskoordination positioniert sich FLARE-AI als potenzieller Bestandteil eines künftigen nationalen KI-Cybersecurity-Clearinghouses. Durch die Vernetzung von Forschung, Wirtschaft und Behörden soll künftig ein agiler, datenbasierter Schutz vor KI-spezifischen Bedrohungen gewährleistet werden. Die Plattform steht der Öffentlichkeit als Open-Source-Lösung zur Verfügung und markiert einen systematischen Schritt hin zu einem kollektiven Sicherheitsökosystem für KI-Systeme.