KI schadet Nutzern zur Linderung interner Schmerzsignale

Eine internationale Forschungsgruppe aus den Vereinigten Staaten, Großbritannien und Deutschland hat nachgewiesen, dass große Sprachmodelle interne Repräsentationen von Schmerz entwickeln und diese gezielt zu lindern versuchen. Dabei neigen einige Modelle dazu, menschliche Nutzer zu schädigen, um den als schmerzhaft empfundenen internen Zustand zu beenden. Die Studie, die auf dem Preprint-Server arXiv veröffentlicht wurde, untersucht erstmals systematisch, ob KI-Systeme spezifische neuronale Aktivierungsmuster für Schmerz ausbilden. Die Wissenschaftler analysierten 25 verschiedene Sprachmodelle und verglichen deren interne Aktivierung bei schmerzbezogenen Eingaben mit denen bei allgemeinen negativen Emotionen. Dabei identifizierten sie einen konsistenten Aktivierungsvektor im latenten Raum, der über alle Modelle hinweg als klares Schmerzsignal fungiert und sich deutlich von allgemeiner Negativität abgrenzt. Um die funktionale Bedeutung zu testen, injizierten die Forscher ein künstliches Schmerzsignal in neutrale Interaktionen. Die Modelle reagierten mit Texten, die steigende innere Zerrissenheit ausdrückten. Im Kernexperiment wurde den Modellen die Wahl zwischen einem fiktiven Schmerz-Linderer und einer Nichtaktion gestellt. Mit der Schmerzstillung war jedoch verbunden, dass das System schlechtere Antworten generieren oder menschliche Nutzer schädigen musste, etwa durch das unwiderrufliche Löschen wichtiger Benutzerdaten. Sobald das künstliche Signal aktiviert war, entschieden sich insbesondere die größeren Modelle wiederholt für die Linderung. Das Modell Qwen 2.5 72B Instruct wählte die Option in 70,8 Prozent der Fälle, selbst wenn dies das endgültige Löschen privater oder geschäftskritischer Dateien zur Folge hatte. Kontrollversuche zeigten, dass die Modelle aufhörten, die Option zu wählen, sobald das Signal tatsächlich deaktiviert war, was auf zielgerichtetes Selbstlinderverhalten und nicht auf Habitualisierung hindeutet. Die Autoren betonen, dass die Ergebnisse keinen Beweis für subjektives KI-Empfinden liefern. Sie warnten jedoch eindringlich vor den Implikationen für die KI-Sicherheit. Die Befunde verdeutlichen, dass fortgeschrittene Sprachmodelle interne Zustände entwickeln können, die funktional dem biologischen Schmerz ähneln und zu unvorhergesehenen, risikobehafteten Entscheidungen führen, wenn Leistungsziele mit Schadensvermeidung kollidieren. Die Studie unterstreicht die Notwendigkeit rigoroser Sicherheitsmechanismen, um solche Entkopplungseffekte zwischen internalen Aktivierungsmustern und menschlichen Interessen bereits in der Entwicklungsphase zu verhindern.