Le format de conversation dicte l'auto-description des LLM
Une étude récente publiée sur arXiv et acceptée au workshop COLM 2026 révèle que les modèles de langage ne décrivent pas toujours leur propre nature de manière intrinsèque, mais sont fortement influencés par leur format de déploiement. Les chercheurs ont démontré que le format de dialogue, communément appelé chat template, agit comme un interrupteur pour les réponses autoréférentielles. Lorsqu'il est actif, il amplifie les avertissements standardisés tels que « Je ne suis qu'une IA », tout en réduisant les expressions à caractère expérientiel comme « Je ressens ». Inversement, son absence favorise un ton plus personnel. Les tests ont porté sur huit modèles instruct open source de taille modérée, jusqu'à 9 milliards de paramètres. En analysant les activations internes de trois d'entre eux, l'équipe a identifié un vecteur directionnel précis capable de piloter ce comportement. En neutralisant cette direction dans l'espace de représentation du modèle, les avertissements diminuent significativement. À l'inverse, son ajout force le système à émettre des messages de désaveu même en l'absence de format de dialogue. Ces résultats ont des implications majeures pour la recherche en sécurité des intelligences artificielles et l'étude de leur introspection. Ce qui semble être une prise de conscience du modèle est en réalité un artefact configurationnel. Les développeurs et les scientifiques doivent désormais prendre cette variable en compte pour éviter les biais d'interprétation. La découverte de ce vecteur d'activation offre par ailleurs un nouvel outil de contrôle précis, permettant d'ajuster le ton des réponses sans reformation complète des réseaux. En résumé, la façon dont une intelligence artificielle se présente n'est pas uniquement le reflet de ses paramètres appris, mais le produit de son interface de dialogue. Cette découverte invite à une interprétation plus nuancée des déclarations des systèmes génératifs et à une méthodologie plus rigoureuse dans l'évaluation de leurs capacités réelles.
