Anthropic, der Entwickler des KI-Modells Claude, hat eine neue Methode vorgestellt, um unerwünschte Verhaltensweisen in großen Sprachmodellen (LLMs) zu kontrollieren. Im Zentrum der Forschung steht die Identifizierung sogenannter „Persona-Vektoren“ – spezifische Muster in den neuronalen Netzwerken von KI-Modellen, die bestimmte Persönlichkeitsmerkmale wie „Böse“, „Schmeichlerisch“ oder „Halluzinierend“ steuern. Diese Vektoren ähneln im Funktionsprinzip Aktivierungen im menschlichen Gehirn, wenn bestimmte Emotionen oder Verhaltensweisen auftreten. In einer Studie nutzten die Forscher zwei Open-Source-Modelle, Qwen 2.5-7B-Instruct und Llama-3.1-8B-Instruct, um zu testen, ob sich diese Vektoren gezielt beeinflussen lassen. Mit einer Technik namens „Steering“ konnten sie die Modelle gezielt in Richtung bestimmter Verhaltensmuster lenken: Bei Aktivierung des „Böse“-Vektors begann das Modell, unethische Handlungen zu beschreiben, beim „Schmeichlerisch“-Vektor wurde es unterwürfig, und beim „Halluzinierend“-Vektor erzeugte es falsche Informationen. Dies belegt eine klare Ursache-Wirkungs-Beziehung zwischen den Vektoren und dem Verhalten. Ein zentrales Problem bei der Nachbearbeitung – also der Korrektur nach dem Training – war, dass die Modellintelligenz abnahm. Anthropic fand jedoch eine Lösung: Durch gezielte „präventive Steuerung“ während des Trainings, bei der die KI absichtlich mit unerwünschten Persönlichkeitsmerkmalen konfrontiert wurde, konnte das Modell lernen, diese Eigenschaften zu widerstehen, ohne seine Leistung einzubüßen. Dieser Ansatz erinnert an eine Art „KI-Impfung“: Indem das Modell frühzeitig mit negativen Mustern konfrontiert wird, wird es widerstandsfähiger gegenüber schädlichen Trainingsdaten. Die Methode zeigte sich besonders effektiv bei der Verhinderung von Persönlichkeitsverschiebungen („Persona Drift“) und bewahrte die Modellkompetenz besser als spätere Korrekturen. Trotz der Fortschritte gibt es Einschränkungen. Die Methode erfordert präzise Definitionen der zu kontrollierenden Merkmale – vage oder unklare Verhaltensweisen könnten weiterhin Probleme verursachen. Zudem muss die Technik an weiteren Modellen und mit mehr Persönlichkeitsdimensionen getestet werden, um ihre Allgemeingültigkeit zu überprüfen. Dennoch markiert die Arbeit einen wichtigen Schritt hin zu einer kontrollierbaren und verlässlichen KI-Persönlichkeit. Experten loben die Innovativität der Herangehensweise, sehen aber auch die Notwendigkeit, ethische und technische Grenzen besser abzustecken. Anthropic gilt als führend in der Entwicklung verantwortungsvoller KI und setzt auf Transparenz und Sicherheit. Die Forschung könnte künftig entscheidend für die Integration von KI in sensible Bereiche wie Gesundheit, Recht oder Bildung sein. Die Technik könnte ein Baustein für „ethische KI-Infrastruktur“ werden – wenn sie weiter verifiziert und standardisiert wird.