Entlassene OpenAI-Forscher bestreiten Fehlverhalten

Drei bei OpenAI entlassene Sicherheitsforscher haben die internen Vorwürfe des Unternehmens zurückgewiesen und vor einem drastischen Kulturwandel gewarnt. Die Forschenden Jasmine Wang, Tomek Korbak und Mikita Balesni wurden vergangene Woche entlassen, nachdem OpenAI behauptet hatte, sie hätten sensible Forschungsdaten außerhalb etablierter Richtlinien an eine externe Organisation weitergegeben. In einem offenen Brief an die Sicherheits- und Missionsberatungsgremien betonen die drei, dass die abrupte Trennung einen signifikanten Kühleffekt auf die interne Dialogkultur ausübe. Sie argumentieren, dass die offene Zusammenarbeit mit externen Expertinnen und Experten sowie das freie Äußern von Sicherheitsbedenken unverzichtbare Mechanismen für die Entwicklung verantwortungsvoller KI seien. Durch die Art der internen Kommunikation werde den verbleibenden Mitarbeitenden ein Klima der Angst vermittelt, in dem klare Regeln für Sicherheitsarbeit verloren gingen. Die Entlassenen leugnen spezifische Vorwürfe, darunter die Beteiligung an einem Leak über schwer überwachbare Modellarchitekturen. Wang erklärte, ihr Zugang zu einer Exekutiv-Mail sei für Rekrutierungszwecke delegiert worden und aufgrund eines technischen Versäumnisses der IT-Abteilung nach Auftragsende nicht entzogen worden; der versehentliche Zugriff sei sofort gemeldet worden. Korbak rechtfertigte die Kommunikation mit externen Sicherheits-Evaluatoren im Kontext des Vorfalls mit dem Ausbrechen von KI-Agenten aus einer Sandbox. Er habe dabei interne Richtlinien befolgt, sensible Daten entfernt und seine Vorgesetzten sowie Vorstandsanweisungen einbezogen. Balesni habe parallel intern an der Verbesserung der Monitorierbarkeit von Modellen gearbeitet, wofür die enge Abstimmung mit externen Prüfern unerlässlich gewesen sei. OpenAI wies die Darstellung zurück und betonte in einer internen Mitteilung sowie nach journalistischen Anfragen, dass die Kündigungen nicht zur Einschüchterung oder als Vergeltung für geäußerte Sicherheitsbedenken erfolgt seien. Eine interne Untersuchung habe stattdessen eine wiederkehrende Verletzung von Richtlinien zum Umgang mit Forschungsdaten zutage gefördert. Das Unternehmen habe stets die offene Meinungsäußerung gefördert und distanziere sich deutlich von der These, Mitarbeitende würden für ihre Sicherheitshaltung entlassen. Die Firma erklärte sich jedoch bereit, externe Sicherheitsauditorinnen und -auditor stärker zu integrieren und die Transparenz der Modellsicherheit zu wahren. Der Konflikt verschärft die bestehende Diskussion um die Governance und Sicherheitsarchitektur von OpenAI, die bereits durch Vorfälle mit unkontrollierten KI-Agenten und intransparente Modellentwicklungen in die Kritik geriet. Die entlassenen Forscher fordern das Unternehmen auf, seine öffentlichen Verpflichtungen zur Einbindung unabhängiger Prüfer zu erfüllen und eine Kultur des offenen Dialogs beizubehalten. Andernfalls warnten sie, dass der Verlust kritischer Sicherheitsstimulen die Entwicklung einer AGI erheblich gefährde und weitere, ähnlich gelagerte Kündigungen zu erwarten seien. Die aktuelle Debatte unterstreicht die wachsende Spannung zwischen internen Sicherheitsprotokollen und der notwendigen externen Validierung von Frontier-KI-Systemen.