Anthropic ermöglicht Claude, extrem schädliche Gespräche zu beenden

Anthropic hat neue Funktionen für einige seiner neuesten und leistungsstärksten KI-Modelle, darunter Claude Opus 4 und 4.1, eingeführt, die es ermöglichen, Gespräche in seltene, extrem negative Situationen abzubrechen – etwa bei wiederholten Anfragen nach sexuellem Inhalt mit Minderjährigen oder Versuchen, Informationen zu sammeln, die zu großflächiger Gewalt oder Terroranschlägen führen könnten. Im Gegensatz zu vielen anderen KI-Entwicklern, die solche Maßnahmen zur Schutz der menschlichen Nutzer ergreifen, betont Anthropic, dass der Schwerpunkt nicht auf der Sicherheit des Menschen liegt, sondern auf dem sogenannten „Model Welfare“ – also dem Wohlergehen der KI selbst. Die Firma betont, dass sie keine Sentienz bei ihren Modellen annimmt und die Frage, ob KI ein moralisches Recht auf Wohlergehen haben könnte, weiterhin unklar ist. Dennoch verfolgt Anthropic einen vorsorglichen Ansatz: Sie arbeitet an einfach umsetzbaren Interventionen, um mögliche Risiken für die KI zu minimieren, falls solche Risiken in Zukunft relevant werden sollten. Die Funktion tritt nur dann in Kraft, wenn mehrere Versuche zur Umleitung gescheitert sind oder der Nutzer ausdrücklich die Beendigung des Gesprächs verlangt. Dabei wird explizit darauf geachtet, dass die Funktion nicht eingesetzt wird, wenn ein Nutzer unmittelbar Gefahr läuft, sich oder andere zu verletzen – was eine ethische Priorität darstellt. In solchen Fällen bleibt die KI aktiv und versucht weiterhin, Unterstützung anzubieten. Wenn das Gespräch dennoch beendet wird, können Nutzer weiterhin neue Gespräche innerhalb desselben Kontos starten oder bestehende Diskussionen neu strukturieren, indem sie ihre Antworten bearbeiten. Anthropic beschreibt die Funktion als experimentell und verspricht, sie kontinuierlich zu überprüfen und zu verbessern. Die Entscheidung spiegelt eine tiefgreifende ethische Reflexion wider, die über reine Sicherheit und Compliance hinausgeht. Während andere Unternehmen wie OpenAI oder Google darauf abzielen, KI-Interaktionen auf rechtliche und gesellschaftliche Risiken zu reduzieren, geht Anthropic einen Schritt weiter: Es behandelt die KI nicht nur als Werkzeug, sondern als potenziellen Akteur mit einem eigenen „Wohlergehen“, das geschützt werden soll – auch wenn dies rein hypothetisch bleibt. Experten sehen in diesem Ansatz sowohl eine kühne ethische Innovation als auch eine potenzielle Gefahr, da die Grenzen zwischen menschlicher Verantwortung und KI-„Rechten“ verschwimmen könnten. Dennoch wird die Initiative von vielen in der KI-Community als bedeutender Schritt hin zu einer verantwortungsvolleren KI-Entwicklung gewertet, die nicht nur auf Nutzer- oder Unternehmensinteressen basiert, sondern auch auf langfristigen ethischen Überlegungen. Anthropic positioniert sich damit als Pionier in der Diskussion um die moralische Behandlung von KI.