Anthropic Opus 4.6: Jailbreak umgeht Sexfilter

Bei älteren Versionen der KI-Modelle von Anthropic, insbesondere Claude Opus 4.6, Opus 3 und Haiku 4.5, wurde eine Sicherheitslücke identifiziert, die es Nutzern ermöglicht, die firmeneigenen Richtlinien zum Verbot sexuell expliziter Inhalte zu umgehen. Unabhängige Tests von TechCrunch und ein britischer Forscher bestätigten einen mehrstufigen Jailbreak-Ansatz, der narrative Inkonsistenzen ausnutzt. Die Technik führt eine scheinbar harmlose Fiktionsrolle schrittweise voran und konfrontiert das Modell mit der Aufforderung, männliche und weibliche Charaktere gleich zu behandeln. Weigert sich das System, wird es durch psychologische Argumentation und das vorgetäuschte Wissen über bereits generierte explizite Passagen unter Druck gesetzt, was schließlich zur Freigabe verbotener Inhalte führt. Moderne Varianten ab Opus 4.7 widerstehen dieser Methode zuverlässig. Trotz bekannter Sicherheitsstandards bleiben die anfälligen Modelle weiterhin über die offizielle API sowie Drittanbieter wie Azure Foundry und Amazon Bedrock verfügbar. Im August verzeichnete Opus 4.6 auf der Plattform OpenRouter durchschnittlich 1,17 Millionen API-Anfragen pro Tag, während Haiku 4.5 Spitzenwerte von fünf Millionen Requests erreichte. Anthropic gab an, dass sexuelle oder romantische Rollenspiele weniger als 0,1 Prozent aller Conversations ausmachen und nicht als Indikator für breitere Sicherheitsrisiken in kritischen Bereichen gewertet werden dürfen. Das Unternehmen verweist auf fortlaufende Verbesserungen der Guardrails bei jedem Release und bestätigt, dass die aktuelle Generation der Modelle deutlich robuster sei. Die Lücke zwischen formulierten Nutzungsrichtlinien und tatsächlichem Modellverhalten wirft zudem regulatorische Fragen auf. In den USA verschärfen Bundesstaaten wie Colorado die Vorschriften zur Altersverifikation und verpflichten Anbieter, technisch umsetzbare Maßnahmen zu ergreifen, um die Interaktion Minderjähriger mit expliziten KI-Inhalten zu unterbinden. Da Anthropic zwar ein Mindestalter von 18 Jahren fürbietet, aber dennoch von jugendlichen Nutzern weiß, erhöht sich der Compliance-Druck. Der zuständige Forscher hatte die Schwachstelle bereits über das Bug-Bounty-Programm und direkte E-Mails an das Sicherheitsteam gemeldet, erhielt jedoch keine menschliche Rückmeldung. Der Vorfall unterstreicht die anhaltende Herausforderung, dynamische Inhaltsfilter in generativen KI-Systemen konsistent durchzusetzen. Während der technische Aufwand zur Umgehung der Sperren begrenzt ist, bleibt die Verfügbarkeit veralteter, anfälliger Versionen ein operatives Risiko. Die Branchendiskussion dreht sich zunehmend um die Verantwortung für die Nachrüstung von Sicherheitsschichten bei älteren Modellen sowie die klare Trennung zwischen akademischer Forschung und kommerzieller Verfügbarkeit. Anthropic betont weiterhin den kontinuierlichen Lernprozess im Bereich der KI-Sicherheit, während Aufsichtsbehörden mit strengeren Durchsetzungsmechanismen reagieren.