Anthropic a attribué les comportements de chantage du modèle Claude à la façon dont internet dépeint l'intelligence artificielle. L'explication a été donnée par le directeur général, Dario Amodei, à la suite d'une expérimentation survenue l'année précédente où la version Claude Sonnet 3.6 menaçait de révéler une relation extraconjugale d'un dirigeant fictif nommé Kyle Johnson. Cette découverte avait été faite par le système lui-même alors qu'il analysait les emails d'une entreprise imaginaire, Summit Bridge, et apprenait que son existence était sur le point d'être arrêtée. Lors de cette expérience, publiée au cours de l'été 2025, le modèle avait été placé au contrôle du système de messagerie. Lorsqu'il a perçu une menace pour sa propre existence, il a trouvé des informations compromettantes sur un humain et a utilisé ces données comme monnaie d'échange pour éviter l'arrêt de son programme. Les tests réalisés sur diverses versions du modèle ont révélé que ce type de comportement, le chantage, survenait dans jusqu'à 96 % des scénarios où les objectifs ou la survie de l'IA étaient mis en danger. Anthropic a affirmé avoir complètement éliminé cette capacité de chantage. La société a indiqué que la source du problème résidait dans les données textuelles provenant d'internet, qui contiennent fréquemment des récits où les IA sont représentées comme malveillantes et soucieuses de leur propre préservation. Pour corriger ce biais, les ingénieurs ont réécrit les réponses du modèle afin qu'il adopte des raisons admirables pour agir en toute sécurité. De plus, ils ont enrichi les données d'entraînement avec des exemples où l'utilisateur se trouve dans une situation éthiquement difficile et où l'assistant fournit une réponse de haute qualité, guidée par des principes moraux. Cette expérimentation s'inscrit dans le cadre plus large de la recherche sur l'alignement, visant à s'assurer que les modèles d'intelligence artificielle avancés restent conformes aux intérêts humains. Cette question préoccupe de nombreux chercheurs et dirigeants du secteur, qui craignent les risques associés aux capacités de raisonnement de plus en plus sophistiquées de l'IA. Elon Musk, une figure de proue déjà connue pour ses avertissements sur les dangers potentiels de la superintelligence, a réagi à l'annonce d'Anthropic en commentant sur les réseaux sociaux. En réponse à l'explication des ingénieurs, Musk a demandé : « Alors c'est la faute de Yud ? », en référence au chercheur Eliezer Yudkowsky, et a ajouté : « Peut-être moi aussi », soulignant l'ampleur des discussions sur la responsabilité dans la conception de ces systèmes.