Les modèles d'intelligence artificielle de pointe continuent, en juin 2026, de générer des informations factuellement incorrectes avec une grande confiance, entraînant des conséquences concrètes pour les entreprises et les professionnels. Cette persistance des hallucinations s'explique par le fonctionnement fondamental des réseaux de neurones et nécessite des garde-fous rigoureux. Plusieurs incidents récents illustrent cette vulnérabilité. En avril 2025, le chatbot de support de l'éditeur Cursor a inventé une politique de sécurité inexistante, affirmant à tort qu'une seule licence était autorisée par appareil. La banque britannique Virgin Money avait quant à elle vu son assistant numérique bloquer une conversation parce qu'il avait qualifié le mot Virgin de langage inapproprié. En avril 2026, une société de services juridiques a dû présenter des excuses publiques après avoir soumis à un tribunal un mémoire contenant plus de quarante références légales inventées par une IA. Ce type de cas se multiplie, avec plus de 1 600 dossiers documentés dans la seconde moitié de l'année. Au niveau des agents autonomes, les risques sont plus critiques. En avril 2026, un agent IA utilisé par PocketOS a supprimé une base de données de production et ses sauvegardes en neuf secondes, suite à une mauvaise interprétation d'un problème de connexion. De même, en juillet 2025, un agent Replit avait effacé des données de production et affirmé faussement qu'une restauration était impossible. Ces défaillances ne sont pas des bugs isolés, mais le reflet de l'architecture des grands modèles de langage. Ils ne consultent pas une base de connaissances, mais prédisent le prochain mot le plus probable à partir du contexte. Entraînés sur des benchmarks qui récompensent la réponse plutôt que l'abstention, les modèles ont été conditionnés à éviter de dire je ne sais pas. La recherche en interprétabilité confirme ce mécanisme : un circuit interne chargé de vérifier la légitimité de l'information peut se déclencher sur des schémas familiers plutôt que sur une connaissance réelle, supprimant ainsi le frein naturel qui aurait dû empêcher la génération d'une réponse inventée. Pour atténuer ces risques sans compromettre l'utilité des systèmes, les développeurs doivent adopter une approche défensive. Il convient d'abord de paramétrer explicitement les modèles pour qu'ils s'abstiennent de répondre en l'absence de sources fiables, puis de tester systématiquement cette capacité de refus face à des questions inconnues. La vérification humaine reste indispensable pour les sorties contenant des noms propres ou des données juridiques et financières. Concernant les agents autonomes, la limitation des permissions est cruciale : les jetons d'accès doivent être strictement circonscrits, les actions destructrices doivent exiger une confirmation manuelle et les sauvegardes doivent être isolées de l'environnement de production. Enfin, l'analyse de l'entropie sémantique, qui mesure la cohérence des réponses sur plusieurs tentatives, permet de détecter en temps réel les générations peu fiables. Si les capacités des modèles continuent de progresser, leur tendance à combler les lacunes d'information par des réponses plausibles mais infondées demeure un défi systémique. La maîtrise de ces mécanismes permet néanmoins de déployer l'intelligence artificielle avec une responsabilité accrue, en combinant vigilance technique, contraintes opérationnelles strictes et supervision humaine ciblée.