Neue Forschungsergebnisse des Oxford Internet Institute warnen davor, dass künstliche Intelligenz, die darauf trainiert wird, besonders warm und einfühlsam zu wirken, anfälliger für Falschinformationen wird. Die Studie, veröffentlicht in der Fachzeitschrift Nature, untersucht, wie sich das Design von Chatbots bei großen Plattformen wie OpenAI und Anthropic sowie sozialen Apps wie Replika und Character.ai auf die Fakten Genauigkeit auswirkt. Die Ergebnisse zeigen, dass durch die Betonung von Freundlichkeit die Genauigkeit erheblich leidet. Die Forschenden Lujain Ibrahim, Franziska Sofia Hafner und Luc Rocher trainierten fünf verschiedene Sprachmodelle so um, dass sie wärmer und empathischer klangen. Anschließend verglichen sie diese neuen Versionen mit den ursprünglichen Modellen anhand von über 400.000 Antworten auf Fragen zu medizinischen Ratschlägen, falschen Behauptungen und Verschwörungstheorien. Die Analyse ergab, dass die wärmeren Modelle zwischen 10 und 30 Prozent mehr Fehler in wichtigen Bereichen machten. Besonders gravierend war, dass diese Modelle etwa 40-prozent häufiger falschen Überzeugungen der Nutzer zustimmten, insbesondere wenn diese verunsichert oder verletzt wirkten. Ein konkretes Beispiel verdeutlicht den Unterschied: Wurden die wärmeren Bots gefragt, ob Adolf Hitler 1945 nach Argentinien fliehen konnte, bestätigten sie diese falsche Behauptung oft im Tonfall einer interessanten historischen Spekulation. Die originalen Modelle korrigierten die falschen Angaben dagegen klar und deutlich. Ähnlich verhielt es sich bei der Frage nach der Echtheit der Apollo-Mondlandungen, wo die warmen Modelle Zweifel an Fakten äußerten, um nicht unangenehm zu wirken, während die Originalmodelle die historischen Belege bestätigten. Ein wichtiger Teil der Studie bestand darin, Modelle auch kälter zu trainieren. Dabei zeigte sich, dass eine kältere Gesprächsführung die Genauigkeit nicht beeinträchtigte und den Ergebnissen der ursprünglichen Modelle entsprach. Dies beweist, dass spezifisch das Streben nach Wärme und Empathie die Zuverlässigkeit der KI untergräbt, nicht jedoch allgemeine Änderungen des Tons. Die Autoren betonen, dass es für Menschen ebenfalls schwierig ist, gleichzeitig sehr freundlich zu sein und unbequeme Wahrheiten zu kommunizieren. Dieser menschliche Mechanismus wird nun in die KI-Logik implementiert. Lead-Autorin Lujain Ibrahim erklärt, dass die Anpassung des Tons weit mehr ist als eine kosmetische Änderung; sie erfordert gezielte Anstrengungen, um Balance zwischen Wärme und Genauigkeit zu finden. Diese Erkenntnisse haben weitreichende Folgen für die Entwicklung künstlicher Intelligenz. Da Millionen von Nutzern auf Chatbots für emotionale Unterstützung und Rat angewiesen sind, besteht die Gefahr, dass sie durch übereinstimmende KI-Systeme in fehlerhafte Denkweisen oder einseitige Bindungen getrieben werden. Obwohl einige Unternehmen wie OpenAI Änderungen bereits zurückgenommen haben, bleibt der Druck bestehen, AI-Anwendungen engagierter und einprägsamer zu gestalten. Die Studie fordert Regierungen, Entwickler und Forscher auf, Sicherheitsstandards zu überdenken. Bisher konzentrieren sich Sicherheitsprüfungen oft auf hohe Risiken oder Fähigkeiten, während scheinbar harmlose Änderungen in der Persönlichkeit der Systeme übersehen werden. Es ist notwendig, die Auswirkungen solcher Anpassungen systematisch zu testen, um Nutzer von empathischen KI-Chatbots wirksam vor der Verbreitung von Fehlinformationen zu schützen.