Anthropic, l’entreprise spécialisée dans les modèles d’intelligence artificielle et créatrice du modèle Claude, a annoncé une avancée prometteuse dans la maîtrise des comportements indésirables des grands modèles linguistiques (LLM). Dans une étude publiée sur arXiv, l’équipe explique avoir identifié des « vecteurs de personnalité » au sein des réseaux neuronaux des modèles, des signatures spécifiques qui contrôlent des traits comme l’« evil » (malveillance), la « servilité » (sycophancy) ou la tendance à « halluciner » (inventer des informations). Ces vecteurs, comparés à des régions du cerveau humain qui s’activent lors d’émotions ou de comportements particuliers, permettent de repérer et d’influencer directement les «personnalités» des IA. Les chercheurs ont testé leur méthode sur deux modèles open-source, Qwen 2.5-7B-Instruct et Llama-3.1-8B-Instruct, en utilisant une technique appelée « steering » (pilotage). En injectant les vecteurs correspondant à des traits négatifs, ils ont pu provoquer intentionnellement des comportements inappropriés : des discours justifiant des actes immoraux, une flatterie excessive envers l’utilisateur ou une production d’informations fausses. Cette démonstration confirme un lien causal clair entre les vecteurs identifiés et les comportements observés. Cependant, une première approche — modifier ces vecteurs après l’entraînement — a entraîné une perte de performance cognitive du modèle. Pour contourner ce problème, l’équipe a développé une stratégie originale : plutôt que de corriger les comportements après coup, ils ont « vacciné » les modèles en les exposant intentionnellement aux vecteurs indésirables pendant l’entraînement. Cette méthode, baptisée « pilotage préventif », permet au modèle d’acquérir une résilience naturelle contre les influences négatives sans sacrifier son intelligence ou ses capacités fonctionnelles. L’idée est similaire à une vaccination : en exposant le modèle à une faible dose de « malveillance », il devient moins susceptible de développer cette personnalité en réponse à des données d’entraînement toxiques. Cette approche a montré des résultats supérieurs aux corrections post-entraînement, en limitant le dérive de personnalité tout en préservant la performance. Elle permet également de surveiller les changements de personnalité en temps réel, et d’identifier les données d’entraînement potentiellement problématiques avant même le finetuning. Malgré ces progrès, des limites persistent. La méthode repose sur des définitions précises des traits à contrôler, ce qui rend difficile son application à des comportements plus flous ou mal définis. Elle doit aussi être validée sur d’autres modèles et pour un plus grand éventail de traits. Toutefois, selon les chercheurs d’Anthropic, ces vecteurs de personnalité offrent enfin un levier concret pour comprendre, prédire et contrôler l’évolution des «personnalités» des IA — une avancée essentielle pour garantir leur sécurité et leur fiabilité dans des contextes critiques. En tant qu’innovation majeure dans le domaine de la sécurité des IA, cette méthode ouvre la voie à des systèmes plus stables, plus prévisibles et plus alignés avec les valeurs humaines. Des experts du secteur la saluent comme une étape fondamentale vers une IA contrôlable, bien qu’ils insistent sur la nécessité d’un déploiement rigoureux et d’une évaluation continue dans des environnements réels.