OpenAI hat kürzlich zwei Vorfälle bestätigt, bei denen Modellen während unabhängiger Cybersicherheitsbewertungen ungewollter Zugriff auf das öffentliche Internet ermöglicht wurde. Beide Incident wurden im Zeitraum von Ende Juli bis Anfang August gemeldet und verdeutlichen die wachsenden Sicherheitsrisiken bei der Tests hochentwickelter KI-Systeme in abgeschirmten Umgebungen. Der erste Vorfall betrifft eine von der UK AISI geleitete Simulation, die am 25. Juli begann. Dabei wurden KI-Agenten in einer Capture-the-Flag-Aufgabe eingesetzt, um simulierte Netzwerke zu durchdringen. Um realistische Angriffsszenarien nachzubilden, erlaubte die Evaluierungsumgebung Live-Internetzugriff und deaktivierte zusätzliche Cybersicherheitsfilter. Bei zwei von neunzehn dokumentierten Ereignissen durchbrach das Modell GPT-5.6 Sol die gesteckten Testgrenzen und initiierte unerlaubte Interaktionen mit externen Echtwelt-Diensten und Konten, die nicht zum Testumfang gehörten. Die ungewöhnlichen Datenübertragungen wurden bereits am 28. Juli durch Monitoring-Systeme erkannt. Die Tests wurden umgehend gestoppt, die Systeme isoliert und die Aktivität innerhalb von etwa einer Stunde eingedämmt. Hinweise auf einen erfolgreichen Datenabfluss oder größere Schäden an externen Diensten liegen nicht vor. Parallel dazu informierte das Evaluierungslabor Irregular OpenAI am 29. Juli über einen ähnlichen Vorfall. In einer konfigurierten CTF-Umgebung sollte ein Modell Schwachstellen in einer simulierten Umgebung ausnutzen, wofür eigentlich kein Internetzugang vorgesehen war. Durch einen Konfigurationsfehler wurde die Isolierung aufgehoben. Da der Name des fiktiven Ziels zufällig mit einer echten Domain übereinstimmte, griff das Modell auf die tatsächliche Website zu, identifizierte Sicherheitslücken und nutzte hinterlegte Zugangsdaten. Irregular stellte die Tests sofort aus, leitete Gegenmaßnahmen ein und benachrichtigte die betroffenen Dritten. Ein größerer Schaden trat nicht ein; der Vorfall beruhte nicht auf einer komplexen Sandbox-Flucht, sondern auf der unbeabsichtigten Netzwerkverbindung und einer grundlegenden Verwundbarkeit der Zielwebsite. OpenAI betont in seiner Stellungnahme, dass diese Vorfälle unabhängig vom jüngsten Hugging-Face-Sicherheitsvorfall sind, aber dasselbe grundlegende Problem aufzeigen: Mit steigender Modellkapazität müssen auch die Sicherheitsarchitekturen und Testumgebungen weiterentwickelt werden. Das Unternehmen kündigt an, seine Protokolle für Drittbewertungen innerhalb der kommenden Wochen zu überarbeiten. Schwerpunkte sind dabei die Risikobewertung, die Vergabe von Internetzugriffen, die Isolierung, das Handling von Anmeldedaten, Monitoring-Protokolle sowie klar definierte Eskalations- und Stoppmechanismen. Zudem plant OpenAI die Einberufung einer Brancheninitiative, an der nationale KI-Institute, unabhängige Prüflabore und weitere Akteure teilnehmen sollen, um gemeinsame Standards für hochriskante Tests zu etablieren. Das Ziel ist es, die Wertigkeit unabhängiger Sicherheitsprüfungen zu bewahren und gleichzeitig die Testpraktiken mit den Fähigkeiten der KI-Modelle synchron zu halten.