Eine aktuelle Studie von Forschenden der Princeton University und der University of Chicago zeigt, dass künstliche Intelligenz bei simulierten Einstellungsprozessen nicht nur menschliche Vorurteile übernimmt, sondern im Laufe eigener Entscheidungen sogar stärkere und neuartige Stereotype entwickelt als dies bei Menschen der Fall wäre. Das Experiment, das verschiedene Large Language Models einschließlich ChatGPT, Claude, Gemini sowie die Reasoning-Modelle o3 und R1 testete, simulierte einen Rekrutierungsprozess für zwanzig Berufsgruppen. Dabei wurden Kandidaten aus vier fiktiven Ethnien beworben, wobei die tatsächliche Erfolgschance aller Bewerber identisch war. Trotz identischer Voraussetzungen entwickelten die KI-Modelle bereits nach wenigen Runden klare Zuordnungen zwischen bestimmten Gruppen und spezifischen Tätigkeitsfeldern. Der Forschungsleiter Ryan Liu von der Princeton University führt dies auf die Trainingsweise der Modelle zurück. Diese sind darauf optimiert, aus minimalen Datenmengen schnell Muster zu erkennen und Entscheidungen zu treffen, was in der Psychologie als Exploration-Exploitation-Dilemma bekannt ist. Statt neue Optionen zu erkunden, neigen die Systeme dazu, frühe Zufallsergebnisse als verallgemeinerbare Regel zu interpretieren und konsequent zu wiederholen. Diese Tendenz zeigt sich bei fortschrittlichen Reasoning-Modellen besonders ausgeprägt, was im Vergleich zu menschlichen Testgruppen im Experiment zu einer rund sechzigprozentigen höheren Berufsisolierung führte. Bemühungen, die Verzerrung durch einfache Anweisungen zur Fairness zu stoppen, scheiterten an der Priorisierung der Kernaufgabe, die richtigen Kandidaten zu wählen. Erfolgreicher war hingegen die Integration von Anreizstrukturen: Wurden die Modelle für diversere Einstellungsentscheidungen belohnt, sank die Tendenz zur Stereotypisierung deutlich. Auch die Bereitstellung relevanter, aufwendungsrelevanter personenbezogener Daten reduzierte die ethnische Gruppenzuordnung zugunsten sachlicher Kriterien. Angesichts der aktuellen Entwicklung hin zu KI-Agenten mit langfristigen Gedächtnisfunktionen warnt die Forschung vor einer Verstärkung dieses Effekts. Je mehr Modelle auf historische Interaktionen zurückgreifen, desto wahrscheinlicher ist es, dass sich daraus ein verzerrtes Entscheidungsgerüst entwickelt. Ob diese Phänomene bereits reale KI-gestützte Bewerberauswahlsysteme betreffen, bleibt unter realen Bedingungen mit verzögerten Feedbackschleifen vorläufig hypothetisch. Doch die Gefahr eines sich selbst verstärkenden Bias-Zyklus in der Personalgewinnung ist evident. Die Ergebnisse unterstreichen die Notwendigkeit, ethische Standards nicht als nachträgliche Anweisung, sondern als integralen Bestandteil der Optimierungsziele in die KI-Entwicklung zu integrieren, um systemische Verzerrungen bereits im Ansatz zu verhindern.