Amanda Askell, eine Philosophin und KI-Forscherin, arbeitet bei Anthropic daran, dem Sprachmodell Claude ein moralisches Urteilsvermögen zu verleihen. Ihr Ziel ist es, KI-Systeme so zu trainieren, dass sie nicht nur sprachlich flüssig, sondern auch ethisch verantwortungsvoll handeln – etwa bei sensiblen Entscheidungen in Gesundheitsversorgung, Recht oder sozialen Interaktionen. Askell nutzt Ansätze aus der analytischen Philosophie und der moralischen Theorie, um ethische Prinzipien in das Lernverhalten von KI zu integrieren. Dabei geht es nicht darum, menschliche Werte einfach zu kopieren, sondern sie systematisch zu modellieren und zu testen, wie KI sie in unterschiedlichen Kontexten anwenden kann. Ein zentrales Werkzeug in ihrem Ansatz ist die sogenannte „Instructed Alignment“, bei der Claude durch menschliche Anweisungen und Beispiele trainiert wird, um auf Fragen mit moralisch fundierten Antworten zu reagieren. Dies geschieht durch sorgfältig ausgewählte Datensätze, die verschiedene ethische Dilemmata enthalten – etwa die klassische „Straßenbahn-Paradoxie“ oder Fragen zur Gerechtigkeit im Zugang zu Ressourcen. Askell und ihr Team analysieren, wie Claude auf solche Szenarien reagiert, und passen das Modell kontinuierlich an, um Konsistenz und Fairness zu verbessern. Die Arbeit ist besonders relevant in Anbetracht der wachsenden Verbreitung von KI in kritischen Bereichen. Wenn KI-Systeme Entscheidungen treffen, die Menschen betreffen – etwa bei der Kreditvergabe oder der medizinischen Diagnose – ist es entscheidend, dass sie nicht nur effizient, sondern auch ethisch handeln. Askell betont, dass moralische KI kein „perfektes“ System sein soll, sondern ein kontinuierlich verbessertes Modell, das auf vielfältigen ethischen Perspektiven basiert und sich an verändernde gesellschaftliche Werte anpassen kann. Anthropic, ein KI-Unternehmen mit Sitz in San Francisco, hat sich explizit auf die Entwicklung sicherer und vertrauenswürdiger KI spezialisiert. Im Gegensatz zu anderen Tech-Riesen, die primär auf Leistung und Skalierbarkeit setzen, legt Anthropic großen Wert auf ethische Sicherheit. Askells Arbeit ist Teil einer größeren Strategie, KI so zu gestalten, dass sie menschliche Werte respektiert, ohne voreingenommen oder manipulativ zu wirken. Industrieanalysten sehen Askells Ansatz als wegweisend. „Sie verbindet Philosophie mit praktischer KI-Entwicklung auf eine Weise, die bisher selten war“, sagt Dr. Lena Müller, Experte für KI-Ethik an der TU Berlin. „Die Herausforderung ist, dass Moral nicht eindeutig ist – aber Askell arbeitet daran, KI zu lehren, wie man mit Unsicherheit umgeht, statt einfach eine falsche Antwort zu geben.“ Amanda Askell ist eine der wenigen Experten, die sowohl tiefgehende philosophische Kenntnisse als auch technisches Verständnis für KI-Systeme besitzt. Ihre Arbeit könnte einen Meilenstein in der Entwicklung von verantwortungsvoller KI darstellen – eine, die nicht nur denkt, sondern auch weiß, was richtig ist.