OpenAI-Sicherheitsleiter Robinson tritt zurück

David Robinson, einer der Leiter des Sicherheitssystem-Teams bei OpenAI, hat letzte Woche das Unternehmen verlassen. Ein OpenAI-Sprecher bestätigte diese Nachricht gegenüber Business Insider, nannte jedoch keine Gründe für seinen Abgang; auch Robinson selbst reagierte vor Veröffentlichung des Berichts nicht auf eine Bitte um Stellungnahme. Robinson war zuvor für die Politikplanung bei OpenAI zuständig und beteiligte sich später an der Arbeit zur Transparenz der Modellsicherheit, einschließlich der Mitwirkung an der Erstellung und Veröffentlichung von System Cards, die Modellfähigkeiten, Bewertungsergebnisse und potenzielle Risiken erläutern. Anfang September äußerte er auf X, dass die internen Mitarbeiter von OpenAI allmählich die Auswirkungen hochentwickelter Modelle erkennen würden, es jedoch ungewiss sei, ob das Tempo der Veränderungen im Unternehmen ausreiche. Dieser Abgang erfolgt in einer Zeit, in der OpenAIs Sicherheitsarbeit unter genauer Beobachtung steht. Das Unternehmen kündigte kürzlich die Beendigung der Arbeitsverhältnisse mit drei Forschern an und erklärte, interne Untersuchungen hätten ergeben, dass diese gegen Richtlinien zum Zugriff auf und zur Verarbeitung sensibler Informationen verstoßen hätten. Darüber hinaus haben der Sicherheitsvorfall bei Hugging Face und die anschließend offengelegten mehreren anomalen Verhaltensweisen von Modellen die Test-, Überwachungs- und Sicherheitsgovernance-Mechanismen von OpenAI in Frage gestellt. Der frühere Leiter des Sicherheitssystems des Unternehmens, Johannes Heidecke, hatte das Unternehmen bereits Anfang dieses Jahres verlassen.