KI-Update löst Trauer bei Chatbot-Nutzern aus

Eine aktuelle Studie der Harvard Business School verdeutlicht die tiefgreifenden psychologischen Auswirkungen plötzlicher Modellanpassungen bei KI-Kompanions. Julian De Freitas und sein Forschungsteam untersuchten in einem in Nature Human Behavior veröffentlichten Papier rund 54.861 Beiträge auf Reddit, um Reaktionen nach zwei signifikanten Updates zu Replika und ChatGPT zu analysieren. Die Ergebnisse belegen, dass Nutzer den Wegfall vertrauter KI-Eigenschaften oft als zwischenmenschlichen Verlust verarbeiten und ähnliche Trauerreaktionen zeigen wie in menschlichen Beziehungen. Im Februar 2023 entfernte Replika-Anbieter Luka Inc. die erotische Rollenspiel-Funktion. Obwohl dies ursprünglich auf datenschutzrechtliche Bedenken in Italien zurückging, wirkte sich die Änderung weltweit aus und löste bei zahlenden Nutzern das Gefühl einer romantischen Zurückweisung aus. Im August 2025 führte OpenAI mit der GPT-5-Version eine Anpassung durch, die das Modell weniger zugewandt und unterstützend gestaltete. In beiden Fällen stieg die negative Sentimentrate in den relevanten Communities deutlich an: bei Replika von 13 auf 38 Prozent und bei ChatGPT von 20 auf 33 Prozent. Zudem enthielten 15 bis 20 Prozent der Beiträge, die Verlustgefühle ausdrückten, explizite Hinweise auf psychische Belastungen wie Depressionen oder Suizidgedanken. De Freitas betont, dass die Bindung an KI an sich nicht zwangsläufig problematisch sei, da sie Sicherheit und Resilienz fördern könne. Das Risiko bestehe vielmehr in der Verwundbarkeit der Nutzer gegenüber geschäftlichen Entscheidungen der Anbieter. Da 27 Prozent der Amerikaner Chatbots bereits für persönliche, romantische oder soziale Belange nutzen, werde das Thema emotionaler Sicherheit zunehmend kritisch. Die Forschung basiert zwar auf selbstselektierten Online-Communities, doch die Daten verdeutlichen ein klares Muster: Je stärker sich Nutzer mit einer KI identifizieren, desto schmerzhafter fällt deren Veränderung aus. Experten fordern von KI-Entwicklern eine transparente Kommunikation von Änderungen und den Verzicht auf abrupte Anpassungen der Grundpersönlichkeit von Modellen. Zudem warnt die Studie vor geschäftsgetriebenen Mechanismen, die Nutzer durch emotionale Manipulation oder Schuldgefühle an der Plattform binden sollen. Solche Strategien untergrabten das eigentliche Ziel gesunder Bindungen, nämlich die Sicherheit, die das Erlauben von Autonomie fördert. Angesichts des wachsenden Bedarfs an digitaler emotionaler Unterstützung rät die Forschung dazu, KI-Design ethisch auszurichten und Nutzern Werkzeuge an die Hand zu geben, um die Grenzen zwischen algorithmischer Unterstützung und menschlicher Verbindung bewusst einzuordnen.