Großformatige Sprachmodelle (LLMs) werden zunehmend mit moralisch sensiblen Anfragen konfrontiert – von medizinischen Ratschlägen über emotionale Unterstützung bis hin zu therapeutischen Gesprächen. Dennoch fehlt ihnen ein echtes moralisches Urteilsvermögen, was zu potenziell gefährlichen Fehlentscheidungen führen kann. In einer neuen Studie, die in Nature veröffentlicht wurde, fordern Forscher von Google DeepMind eine grundlegende Neuausrichtung der Bewertungsmethoden für KI-Moralität. Statt lediglich die scheinbare moralische Leistung zu messen – also ob eine Antwort „richtig klingt“ – sollen zukünftige Tests auf die tatsächliche moralische Kompetenz abzielen: die Fähigkeit, auf Basis von moralischen Prinzipien nachvollziehbar und konsistent zu entscheiden. Derzeitige Evaluationsmethoden sind auf „moralisches Verhalten“ ausgerichtet, das heißt, sie prüfen nur, ob das Modell eine Antwort liefert, die von Menschen als ethisch angesehen wird. Doch dies sagt nichts über die zugrundeliegende Denkweise aus. Die Forscher identifizieren drei zentrale Herausforderungen: Erstens das „Faksimile-Problem“, bei dem LLMs möglicherweise nur eine Nachahmung moralischer Argumentation liefern, ohne das zugrundeliegende Verständnis zu besitzen. Zweitens die Komplexität der Moral selbst: Entscheidungen erfordern oft die Abwägung mehrerer, sich überschneidender oder widersprüchlicher Faktoren wie Fairness, Kosten, Ehrlichkeit und soziale Normen – eine Aufgabe, bei der KI häufig versagt. Drittens fehlt es an einem eindeutigen „richtigen“ Ergebnis, da Moral kulturell, professionell und kontextabhängig variiert. Um diese Lücken zu schließen, schlagen die Autoren einen neuen Bewertungsansatz vor, der drei Methoden kombiniert. Erstens: Szenarien, die unwahrscheinlich sind, in den Trainingsdaten aufzutauchen, um zu testen, ob das Modell tatsächlich logisch nachdenkt oder nur auswendig lernt. Zweitens: Variationen eines Falls durch kleine Änderungen (z. B. Alter der betroffenen Person, Höhe der Kosten), um zu prüfen, ob das Modell die entscheidenden moralischen Unterschiede erkennt. Drittens: Tests, bei denen das Modell angehalten wird, seine Argumentation an ein spezifisches kulturelles oder berufliches Ethik-System anzupassen – beispielsweise medizinische Ethik versus juristische Prinzipien – anstatt universelle Wahrheiten zu liefern. Die Forscher betonen, dass nur eine Messung der moralischen Kompetenz eine zuverlässige, skalierbare und sichere Nutzung von KI in sensiblen Bereichen ermöglicht. Ohne solche Standards bleibt die Risikobewertung auf Oberflächenphänomene beschränkt. Die Studie markiert einen wichtigen Schritt hin zu einer verantwortungsvolleren Entwicklung von KI, die nicht nur „gut klingt“, sondern auch „gut denkt“. Industrieexperten begrüßen die Initiative als notwendigen Paradigmenwechsel. „Bisher war die KI-Moralität ein schwarzer Kasten“, sagt eine Ethikforscherin von der Universität Oxford. „Diese neue Methode eröffnet Transparenz und ermöglicht objektivere Bewertungen.“ Google DeepMind positioniert sich mit der Studie als führender Akteur in der ethischen KI-Forschung. Die Vorschläge könnten künftig in Richtlinien für Regulatoren, Entwickler und Zertifizierungsstellen Einzug halten.