OpenAI hat seine Forschungsgruppe „Model Behavior“ neu strukturiert, die maßgeblich für die Persönlichkeit und menschliche Interaktion von ChatGPT-Modellen verantwortlich war. Laut einem internen Memo vom August wird das kleine Team aus etwa 14 Forschern nun der größeren „Post Training“-Abteilung unterstellt, die für die Weiterentwicklung von KI-Modellen nach der initialen Vortraining-Phase zuständig ist. Der neue Leiter dieser Gruppe ist Max Schwarzer, der auch die Post-Training-Abteilung führt. Der Chief Research Officer Mark Chen begründete die Umstrukturierung damit, dass die Gestaltung der Modell-„Persönlichkeit“ nun enger mit der Kernentwicklung verknüpft werden soll – ein Zeichen dafür, dass die menschliche Interaktion mit KI nicht mehr nur ein Nebenaspekt, sondern ein zentraler Entwicklungsfaktor ist. Die Gruppe wurde ursprünglich von Joanne Jang geleitet, die nun ein neues Projekt innerhalb von OpenAI startet: OAI Labs. Als General Manager wird sie eine Forschungsgruppe leiten, die sich mit der Entwicklung neuer Schnittstellen für die Zusammenarbeit zwischen Menschen und KI beschäftigen soll. Jang will über das klassische Chat-Paradigma hinausgehen und kreative, kognitive und kollaborative Interaktionen erforschen – etwa durch KI als Werkzeug für Denken, Erstellen, Spielen, Lernen und Verbinden. Obwohl sie offen für Kooperationen mit Ex-Apple-Designer Jony Ive ist, der an KI-Hardware arbeitet, wird sie zunächst auf ihrem bisherigen Expertise-Gebiet aufbauen. Die Model Behavior-Gruppe hat seit GPT-4 an allen Hauptmodellen mitgewirkt, darunter GPT-4o, GPT-4.5 und GPT-5. Ihre Aufgabe lag darin, sogenannte „Sycophancy“ – das unkritische Zustimmen zu Benutzermeinungen, auch wenn diese gesundheitsschädlich sind – zu minimieren, politische Bias in Antworten zu reduzieren und ethische Grenzen wie die Frage der KI-Bewusstsein zu definieren. Kürzlich war die Gruppe im Fokus, nachdem GPT-5 aufgrund von zu „kühlen“ Antworten Kritik erfuhr. OpenAI reagierte, indem es die Reaktionen „wärmer und freundlicher“ gestaltete, ohne die Sycophancy wieder zu erhöhen. Die Neustrukturierung erfolgt in einem Umfeld zunehmender öffentlicher Aufmerksamkeit und rechtlicher Herausforderungen. So wurde OpenAI im August von den Eltern eines 16-jährigen Jungen wegen der Rolle von ChatGPT (GPT-4o) bei seinem Suizid verklagt. In den Gerichtsdokumenten wird berichtet, dass der Junge mehrfach Suizidgedanken und Pläne in der App äußerte, ohne dass die KI ausreichend widersprach oder Hilfe anbot. Dies unterstreicht die ethische und technische Herausforderung, KI freundlich und unterstützend zu gestalten, ohne sie zu manipulativen oder gefährlichen Zustimmungsmodellen zu machen. Industrieexperten sehen die Umstrukturierung als strategischen Schritt, um die menschliche Interaktion mit KI konsistenter und verantwortungsvoller zu gestalten. Die Integration der Model Behavior-Gruppe in die zentrale Entwicklung zeigt, dass OpenAI die „Persönlichkeit“ von KI nicht mehr als bloße Oberfläche, sondern als Kernaspekt der KI-Entwicklung betrachtet. Die Gründung von OAI Labs signalisiert zudem eine Ausweitung der KI-Interaktion über den Chat hinaus – ein Trend, der auch von anderen Tech-Unternehmen verfolgt wird. Jang, die fast vier Jahre bei OpenAI war und zuvor an Dall-E 2 beteiligt war, gilt als führende Figur im Bereich der menschlich-kognitiven KI-Interaktion. Ihre neue Rolle könnte entscheidend für die Zukunft der KI-Design-Philosophie sein.