Berichten zufolge löst OpenAI das Preparedness-Team auf und verteilt die Sicherheitsfunktionen auf bestehende Abteilungen

Laut Berichten der Financial Times hat OpenAI das Preparedness-Team Ende Juli aufgelöst und die ursprünglichen Aufgaben auf bestehende Teams des Unternehmens verteilt, unterteilt nach spezifischen Bereichen wie biologische Risiken und Cybersicherheit. Das Team war zuvor für die Bewertung zuständig, ob fortschrittliche Modelle schwerwiegende Schäden verursachen könnten, sowie für die Erforschung entsprechender Risikominderungsmaßnahmen. Diese Anpassungen sind Teil einer Reihe von Umstrukturierungen in den Sicherheitsforschungsorganisationen bei OpenAI in den letzten Jahren. Das Unternehmen hatte bereits Teams wie Superalignment und AGI Readiness abgeschafft. In letzter Zeit haben auch Chloé Bakalar, Leiterin der KI-Ethik, Josh Achiam, Chief Future Officer, und Johannes Heidecke, Leiter der Sicherheitssysteme, ihr Amt niedergelegt. Jan Leike, ehemaliger Leiter von Superalignment, der 2024 OpenAI verließ, kritisierte, dass das Unternehmen die Sicherheitsarbeit vernachlässige und sich stattdessen auf „glanzvolle neue Produkte“ konzentriere. Diese Aussage stammt jedoch von einem ehemaligen Mitarbeiter und darf nicht als Beweis dafür gewertet werden, dass OpenAI seine Investitionen in die Sicherheit eingestellt hat. Der Leiter des Preparedness-Teams, Dylan Scandinaro, kam im Februar dieses Jahres von Anthropic zu OpenAI. Nach der Auflösung seines Teams wird er sich mit den potenziellen Auswirkungen von AI-Systemen befassen, die sich selbst rekursiv verbessern – also den Fähigkeiten und Risiken, die daraus entstehen, wenn KI-Systeme an der Entwicklung und Verbesserung künftiger KI-Systeme beteiligt sind. Diese organisatorischen Veränderungen fallen zeitlich zusammen mit der Vorbereitung eines möglichen Börsengangs (IPO) durch OpenAI, doch gibt es derzeit keine Hinweise darauf, dass ein direkter kausaler Zusammenhang zwischen beiden besteht.