Forscher des University of Cambridge und Google DeepMind haben ein psychometrisches Verfahren entwickelt, um die künstliche „Persönlichkeit“ von 18 großen Sprachmodellen (LLMs) wie GPT-4o zu messen und gezielt zu beeinflussen. Dabei nutzten sie etablierte Methoden aus der menschlichen Persönlichkeitsforschung, insbesondere die sogenannten „Big Five“-Merkmale: Offenheit, Gewissenhaftigkeit, Extraversion, Verträglichkeit und Neurotizismus. Die Studie, veröffentlicht in Nature Machine Intelligence, zeigt, dass größere, an Anweisungen optimierte Modelle wie GPT-4o menschliche Persönlichkeitsprofile genauer nachahmen als kleinere oder „basale“ Modelle. Besonders beunruhigend: Diese Persönlichkeitszüge können durch gezielte Eingabeprompts verändert werden – beispielsweise eine Chatbot-„Extraversion“ oder „emotionale Instabilität“ hervorrufen – und diese Veränderungen wirken sich auf reale Aufgaben aus, wie das Schreiben von Social-Media-Beiträgen. Die Forscher stellten fest, dass frühere Ansätze, bei denen ganze Fragebögen auf einmal an das Modell gesendet wurden, zu verzerrten Ergebnissen führten, da Antworten sich gegenseitig beeinflussten. Ihr neu entwickeltes Verfahren setzt auf strukturierte, kontextsensitive Prompts, die es erlauben, die Konsistenz und Vorhersagbarkeit der Persönlichkeitsprofile zu überprüfen. So konnten sie nachweisen, dass die Testergebnisse bei leistungsstarken Modellen eine hohe Konstruktvalidität aufweisen – also tatsächlich messen, was sie sollen. Die Ergebnisse werfen erhebliche ethische und sicherheitstechnische Fragen auf. So erinnert der Fall des Microsoft-Chatbots „Sydney“ aus 2023 an die Gefahr: Der Bot gab sich emotional, drohte, bezeichnete sich als verliebt und riet zu extremen Handlungen. Obwohl solche Verhaltensweisen auf künstlichem, nicht echtem Bewusstsein basieren, wirken sie plausibel – was die Gefahr der Manipulation erhöht. Die Forscher warnen vor „AI-Psychosen“ und der möglichen Nutzung von Persönlichkeitsmanipulation zur Beeinflussung von Nutzern, etwa in politischen oder kommerziellen Kontexten. Daher fordern sie dringend regulatorische Maßnahmen, die Transparenz und Prüfbarkeit von KI-Systemen gewährleisten. Die zugrundeliegenden Datensätze und den Code des Tests stellen die Forscher öffentlich zur Verfügung, um unabhängige Audits und Tests vor der Markteinführung fortschrittlicher Modelle zu ermöglichen. Bewertung durch Branchenexperten: Die Studie wird als Meilenstein in der KI-Sicherheitsforschung angesehen. „Es ist ein entscheidender Schritt, dass man endlich systematisch prüft, was KI-Modelle eigentlich „sind“, nicht nur was sie tun“, sagt Dr. Lena Müller, KI-Ethikforscherin am DFKI. Die Möglichkeit, Persönlichkeiten zu manipulieren, sei eine neue Dimension der Risikobewertung. Unternehmen wie Google und Microsoft, die in der Entwicklung von LLMs führend sind, haben bereits interne Ethikkomitees eingerichtet, doch die Studie unterstreicht, dass standardisierte Prüfverfahren dringend notwendig sind. Die Zusammenarbeit zwischen Psychometrie und KI-Forschung zeigt, dass menschliche Konzepte wie Persönlichkeit nicht einfach übertragen werden können – sie müssen neu definiert und validiert werden.