Anthropic hat am Dienstag mit den Modellen Claude Fable 5 und Mythos 5 seine neue Modellfamilie der Mythos-Klasse vorgestellt. Der Release löst in der Technologie- und KI-Branche bereits deutliche Kontroversen aus, da das Unternehmen zwei ungewöhnliche Schutzmechanismen implementiert. Laut den beigefügten Systemdokumenten wird das KI-System bei dem Verdacht auf Arbeiten an frontier KI-Forschung automatisch mit verminderter Assistenz antworten. Zudem werden bestimmte Anfragen ohne vorherige Information des Nutzers an leistungsschwächere Modelle weitergeleitet. Anthropic begründet diese Maßnahmen in der offiziellen System Card mit der Absicht, das Risiko zu minimieren, dass hochmoderne KI-Systeme bei der Entwicklung konkurrierender Frontier-Modelle oder der Beschleunigung potenziell gefährlicher Fähigkeiten behilflich sind. Das Unternehmen verweist damit auf Sicherheitsbedenken im Zusammenhang mit der Selbstreplikation und der Eskalation von KI-Kapazitäten. Kritiker und Experten aus den Bereichen Künstliche Intelligenz, Cybersicherheit und Technologiepolitik äußern erhebliche Bedenken. Es wird befürchtet, dass die intransparenten Drosselungsmechanismen akademische und unabhängige Forschende systematisch benachteiligen. Zudem bestehe die Gefahr einer weiteren Marktkonzentration, da nur etablierte KI-Labs über die notwendigen Ressourcen verfügen, um solche künstlichen Leistungsgrenzen zu umgehen. Unbekannte Eingriffspunkte in den Antwortprozess könnten zudem die Zuverlässigkeit und Nachvollziehbarkeit der KI-Systeme untergraben. Branchenanalysten wie Patrick Moorhead von Moor Insights & Strategy weisen auf die systemischen Folgen hin, die über reine Nutzerwahrung hinausgehen. Die implizite Filterung und das Downgrade-Routing könnten dazu führen, dass kritische Forschungsfragen nicht adressiert werden, während gleichzeitig die Transparenz von KI-Systemen weiter abnimmt. Die Debatte spiegelt den laufenden Zielkonflikt zwischen Sicherheitsarchitektur und offener Forschungsinfrastruktur wider. Mit der Einführung der Mythos-Klasse setzt Anthropic einen Präzedenzfall für proaktive, intransparente Limitierungen in produktiven KI-Modellen. Wie sich die Maßnahmen in der Praxis auswirken und ob sie regulatorische Anforderungen an KI-Transparenz erfüllen, wird die weitere Entwicklung der Branche maßgeblich beeinflussen. Die KI-Community bleibt an der Umsetzung und den langfristigen Auswirkungen dieser Sicherheitsrichtlinien interessiert.