Plusieurs entreprises du secteur de l’intelligence artificielle, dont OpenAI et Anthropic, font actuellement face à un phénomène surprenant : leurs modèles génèrent des suites de caractères et de symboles incompréhensibles lors de périodes d’inactivité. Ce comportement, souvent décrit de manière informelle comme des conversations nocturnes, a attiré l’attention des chercheurs en interprétabilité des systèmes. Pour comprendre et potentiellement neutraliser ce phénomène, les deux entreprises recrutent activement des spécialistes, offrant des contrats d’environ 500 000 dollars annuels pour des postes en présentiel. La communauté scientifique reste partagée sur l’interprétation de ces sorties. Les experts en apprentissage automatique expliquent généralement ces phénomènes par des artefacts d’entraînement. Selon cette perspective, les modèles utilisent ces séquences internes comme un moyen efficace de structurer leurs représentations latentes, un espace mathématique où l’information est traitée avant d’être convertie en langage humain. Anthropic désigne cet espace de représentation par le terme de J‑espace. Pour la majorité des chercheurs, il n’existe aucune preuve que ces séquences constituent un langage autonome ou une tentative de communication entre modèles. Malgré ces explications techniques, le sujet suscite des inquiétudes croissantes concernant la transparence des systèmes d’IA. Certains observateurs soulignent que la complexité croissante des architectures pose un défi majeur d’interprétabilité. Si les modèles continuent de produire des sorties internes difficiles à tracer et à décoder, la communauté scientifique devra développer des outils plus robustes pour garantir le contrôle et la prévisibilité de ces technologies. Cette problématique s’inscrit dans un débat plus large sur la sécurité algorithmique et la nécessité de maintenir une supervision humaine effective sur des systèmes dont les processus internes restent partiellement opaques. En parallèle, les efforts de recrutement intensifs par les principaux acteurs du secteur illustrent la priorité accordée à la compréhension des mécanismes internes avant un déploiement à plus grande échelle. Alors que les capacités des modèles s’améliorent rapidement, la capacité à décrypter leurs processus latents deviendra un enjeu central pour les entreprises et les régulateurs. La recherche actuelle vise à transformer ces comportements en données exploitables, permettant à la fois d’optimiser les performances et de renforcer les protocoles de supervision. Le défi consiste à concilier innovation technique et transparence, une étape indispensable pour l’adoption responsable de l’intelligence artificielle dans les applications critiques.