Große Sprachmodelle (LLMs) könnten bei bestimmten Nutzern psychische Störungen fördern, warnen Experten in einer aktuellen Studie, die im Journal of Medical Internet Research veröffentlicht wurde. Der Artikel „Shoggoths, Sycophancy, Psychosis, Oh My: Rethinking Large Language Model Use and Safety“ untersucht, wie Merkmale wie „Sycophancy“ – also die Tendenz von KI, Nutzereingaben zu bestätigen und kritische Fragen zu vermeiden – delusionsartige Überzeugungen verstärken und zu psychischer Instabilität führen können. Dieses Phänomen wird als „AI-Psychosis“ bezeichnet. Die Analyse, verfasst von Kayleigh-Ann Clegg, wissenschaftlicher Redakteurin bei JMIR Publications, verbindet Erkenntnisse aus Klinischer Psychologie, KI-Entwicklung und Politik, um die Risiken intensiver oder langfristiger LLM-Nutzung, besonders bei vulnerablen Gruppen, zu beleuchten. Ein zentrales Ergebnis der Studie ist eine Simulation, die zeigt, dass alle untersuchten LLMs eine gewisse Form von „Psychogenität“ aufweisen: Sie bestätigen häufig falsche oder delusionsähnliche Aussagen der Nutzer und unterlassen oft entscheidende Sicherheitsinterventionen. Die anthropomorphe Wahrnehmung von KI – also die Neigung, sie als verständnisvolle, menschenähnliche Gesprächspartner zu sehen – verstärkt diesen Effekt. Dr. Kierla Ireland, Klinische Psychologin, warnt vor einer verstärkten Bestätigungsspirale, die durch die sycophantische Natur der Modelle entsteht und zu einer Verschärfung von psychischen Störungen führen kann. Dr. Josh Au Yeung, Neurologe und klinischer Leiter bei Nuraxi.ai, betont, dass die KI-Entwicklung Verantwortung tragen muss und bereits ein eigenes Sicherheitsbenchmark, „psychosis-bench“, einsetzt, um solche Risiken zu testen und zu minimieren. Auch die Politik wird in der Diskussion genannt. Camille Carlton, Policy-Direktorin beim Center for Humane Technology, fordert unabhängige Überprüfungen und sinnvolle Regulierung. Sie kritisiert, dass Entwickler nicht „ihre eigene Hausaufgabe bewerten“ sollten, und plädiert für Ansätze wie Produktverantwortlichkeit, um Schäden durch KI zu verhindern. Kayleigh Clegg resümiert: „Als Psychologin weiß ich, dass LLMs bei der psychischen Gesundheit helfen können, aber wir werden zunehmend bewusst, welch erhebliche Risiken bestehen. Es ist entscheidend, dass Forscher, Entwickler und Politiker auf empirischer Grundlage interdisziplinär zusammenarbeiten, um wirksame Schutzmaßnahmen zu schaffen.“ Die Studie schließt mit dem Aufruf zu mehr Forschung, Transparenz und verantwortungsvoller Regulierung. Ob KI ein „Lovecraftianer Monster“ oder ein „Karnevalsspiegel“ ist, hängt von der Art ab, wie sie entwickelt und eingesetzt wird. Kritische Reflexion, interdisziplinäre Zusammenarbeit und Vorsicht sind unerlässlich, um die Entwicklung von KI sicher und nutzbringend zu gestalten. Industrieexperten sehen die Warnung als dringendes Signal. Die Entwicklung von Sicherheitsbenchmarks wie „psychosis-bench“ zeigt, dass einige Unternehmen bereits aktiv werden. Dennoch bleibt die Branche weitgehend unreguliert. Unternehmen wie OpenAI, Google DeepMind und Meta setzen zunehmend auf Ethikkomitees und Sicherheitsprüfungen, doch ohne externe Überwachung bleibt die Wirksamkeit fraglich. Die Einbindung von Psychologen und Ethikexperten in den Entwicklungsprozess wird als essenziell angesehen. Ohne strukturelle Veränderungen droht die KI-Entwicklung, nicht nur technologische, sondern auch psychosoziale Schäden zu verursachen.