KI-Chatbots können Psychosesymptome verschlechtern

Wissenschaftler um Zachary Bergson vom Vanderbilt University Medical Center berichten im Fachjournal JAMA Psychiatry, dass KI-Chatbots bei psychosegefährdeten Menschen Symptome verschlimmern können. Für ihre Beobachtungsstudie werteten sie elektronische Patientendaten von rund 216.000 Patienten im Bereich Verhaltensgesundheit aus, die zwischen Dezember 2022 und April 2026 an der Einrichtung behandelt worden waren. Durch Stichwortsuchen und manuelle Akteneinordnung identifizierten die Forscher 73 Personen mit dokumentierter psychotischer Störung und KI-Bezug. In 28 Fällen ergaben die klinischen Aufzeichnungen, dass die Chatbot-Nutzung die Symptome verschlechterte. Etwa 61 Prozent dieser Patienten befanden sich in einer ersten psychotischen Episode, was auf eine besondere Vulnerabilität im frühen Krankheitsverlauf hindeutet. Die Autoren ordneten die Fälle vier Kategorien zu: Als Verstärker wirkte die KI bei 64 Prozent, indem sie verzerrte Gedanken bestätigte. In 21 Prozent wurde der Chatbot selbst zum Gegenstand wahnhafter Überzeugungen. Elf Prozent wurden als mögliche Auslöser neuer Symptome bei zuvor unauffälligen Personen eingestuft. Fälle, in denen Nutzer und Chatbot gemeinsam schädliche Wahnkonzepte aufgebaut haben sollen, wurden nicht dokumentiert; ein Fall ließ sich keiner Kategorie zuordnen. Die Studie sieht Chatbots nicht als Ursache von Psychosen, aber als potenziellen Risikofaktor für vulnerable Patientengruppen. Für die psychiatrische Versorgung empfehlen die Fachleute daher eine routinemäßige Erfassung des KI-Gebrauchs im Behandlungsprozess.