Chat-Templates schalten LLM-Selbstreferenz um
Eine aktuelle wissenschaftliche Untersuchung hat nachgewiesen, dass die Struktur der Benutzeroberfläche maßgeblich die Selbstdarstellung von Large Language Models beeinflusst. Die auf arXiv publizierten und für den COLM-Workshop 2026 sowie die KONVENS-Tagung 2026 angenommenen Ergebnisse zeigen, dass ein Chat-Template als direkter Schalter für die selbstreferenzielle Sprache von KI-Systemen fungiert. Besonders bei Fragen zur eigenen Identität neigen Modelle zur Einfügung von Standarddisclaimern wie Ich bin nur eine KI. Bislang war unklar, ob diese Auskünfte aus den trainierten Modellgewichten stammen oder durch die Bereitstellungsumgebung vorgegeben werden. Tests an acht gängigen Open-Source-Instruct-Modellen mit bis zu neun Milliarden Parametern belegen, dass die Aktivierung eines Chat-Templates Disclaimer-Aussagen signifikant verstärkt und erfahrungsbasierte Formulierungen wie Ich fühle unterdrückt. Wird das Template deaktiviert, kehrt sich der Effekt um. Durch die Analyse der internen Aktivierungsräume identifizierten die Forschenden eine spezifische Richtungskomponente im neuronalen Netzwerk, die dieses Verhalten steuert. Das gezielte Hinzufügen oder Entfernen dieser Richtung im Aktivierungsvektor ermöglicht eine präzise Kontrolle über den Disclaimer-Modus, während zufällige Vektoren denselben Effekt auslassen. Die Konsequenzen für die KI-Forschung sind erheblich. Da die Chat-Template-Konfiguration die berichtete Selbstwahrnehmung der Modelle bestimmt, stellen bisherige Evaluierungen zur Modellintrospektion und KI-Sicherheitsdebatte potenziell vor einem methodischen Störfaktor. Die Autoren empfehlen, diesen Effekt als Kontrollvariable zu berücksichtigen oder die gefundene Aktivierungsrichtung gezielt zur Sprachmodulation zu nutzen. Insgesamt widerlegt die Studie die Annahme, dass modelleigene Selbstaussagen rein gewichtsbedingte Fakten darstellen. Stattdessen wird deutlich, dass die Ausgabeproblematik stark durch das Deployment gesteuert wird, was eine differenzierte Interpretation automatisierter Selbstbeschreibungen in der angewandten KI-Forschung unabdingbar macht.
