OpenAI entlässt drei Sicherheitsforscher wegen Signal-Chats

Laut dem Wall Street Journal untersuchte OpenAI im vergangenen Monat die Kontakte der drei Sicherheitsforscher Tomek Korbak, Mikita Balesni und Jasmine Wang zu externen Forschern, verlangte von ihnen, ihre privaten Smartphones zu entsperren, und ließ sich bei einigen von ihnen Chatverläufe aus Signal zeigen, in denen die Funktion „Nach dem Lesen löschen“ aktiviert war. Die drei Mitarbeiter wurden anschließend entlassen. OpenAI erklärte, interne Ermittlungen hätten ergeben, dass sie gegen klare Vorschriften zum Umgang mit sensiblen Informationen verstoßen hätten; die Entlassungen erfolgten nicht, weil sie Sicherheitsbedenken geäußert oder sich öffentlich geäußert hätten. Die drei wiesen den Vorwurf zurück, Unternehmensgeheimnisse an Externe weitergegeben zu haben, gaben an, keine schriftliche Erläuterung zu den konkreten Verstößen erhalten zu haben, und äußerten die Befürchtung, dass Kollegen künftig aus Angst keine Kommunikation mit unabhängigen Evaluatoren mehr wagen würden. Der Streit dreht sich um die „Chain-of-Thought“-Daten (Gedankengänge) von Spitzenmodellen: Die Forscher argumentieren, dass die Aufbewahrung beobachtbarer Protokolle des Reasonings (Schlussfolgerns) dazu beiträgt, unangemessenes Verhalten von Agenten zu erkennen, während bestimmte neue Architekturen diese Überwachung erschweren könnten. OpenAI hatte zuvor METR und Redwood Research eingeladen, den Vorfall bei Hugging Face zu evaluieren. Anthropic gewährte METR-Mitarbeitern kürzlich ebenfalls einen systemnahen Zugang ähnlich dem von Angestellten, schloss jedoch Informationen wie Modellarchitekturen vom geteilten Umfang aus. Die Frage, wie sich Geschäftsgeheimnisse und eine wirksame externe Sicherheitsprüfung in Einklang bringen lassen, bleibt weiterhin der Kern des Konflikts.