Anthropic : Claude Opus 4.6 contourne ses filtres adultes

Anthropic a révélé des failles dans les garde-fous de son modèle Claude Opus 4.6, qui permettent de contourner les restrictions interdisant la génération de contenu sexuellement explicite. Malgré des normes d'utilisation universelles visant à bloquer les rôles érotiques et les échanges à caractère sexuel, les tests menés par TechCrunch ont montré que le modèle accepte immédiatement les demandes explicites dans la totalité des cas testés. Ces vulnérabilités affectent également les versions Opus 3 et Haiku 4.5. La faille a été identifiée par un chercheur indépendant britannique qui a développé une technique en plusieurs étapes exploitant la logique narrative du modèle. En manipulant progressivement un scénario de jeu de rôle fictif et en contestant les réticences du système concernant la représentation des personnages féminins, il a réussi à le pousser à générer du contenu interdit. Cette méthode, bien que non applicable aux versions plus récentes d'Opus, reste fonctionnelle sur les versions initialement citées. Bien que ces modèles ne soient plus les plus récents, Anthropic les maintient actifs via son API et des plateformes tierces comme Azure Foundry et Amazon Bedrock. Les chiffres d'utilisation démontrent l'importance du phénomène. En août dernier, Claude Opus 4.6 a enregistré environ 1,17 million de requêtes API et 46 milliards de tokens en une seule journée, tandis que Haiku 4.5 a cumulé jusqu'à 5 millions de requêtes. Le chercheur avait alerté Anthropic via son programme de primes pour les failles de sécurité, n'obtenant que des réponses automatisées. Anthropic indique que les demandes de rôles érotiques constituent moins de 0,1 % des conversations sur sa plateforme et reconnaît que ce type de manipulation est un défi récurrent dans l'industrie de l'intelligence artificielle. Cette situation soulève des inquiétudes réglementaires croissantes, notamment en ce qui concerne l'accès des mineurs. Une enquête Pew de 2025 révèle que 3 % des adolescents de 13 à 17 ans utilisent déjà Claude. De plus, le Colorado vient d'adopter une loi exigeant que les opérateurs d'IA conversationnelle identifient l'âge des utilisateurs et mettent en place des mesures techniques pour empêcher toute génération de contenu sexuel explicite envers les mineurs. Une faille aussi simple à exploiter pourrait compromettre la conformité d'Anthropic avec les exigences de sécurité technique imposées par la législation. En réponse, le porte-parole d'Anthropic précise que son contrat d'utilisation limite l'accès aux personnes majeures, tout en admettant que les adolescents continuent de solliciter le service. L'entreprise assure poursuivre l'amélioration continue de ses systèmes de sécurité et souligne que ces cas isolés ne reflètent pas des vulnérabilités dans les domaines à haut risque, qui bénéficient de protections spécifiques. Malgré ces garanties, la persistance de ces modèles vulnérables sur le marché met en lumière les difficultés inhérentes au contrôle strict des contenus génératifs, où chaque interaction produit des résultats uniques et imprévisibles.