OpenAI reconnaît que les hallucinations sont inévitables Pourquoi l’IA continue de dire des choses fausses : le problème fondamental que personne ne veut aborder Le mardi dernier, une étude de 25 pages publiée par OpenAI a profondément bouleversé ma compréhension de l’intelligence artificielle. Ce document, rédigé par des chercheurs parmi les plus éminents du domaine, ressemble presque à une confession : certains des plus grands esprits de l’IA ont admis ce que nous soupçonnions tous depuis longtemps, mais que personne n’osait formuler clairement : le problème des hallucinations n’est pas un simple bug à corriger. Il est profondément ancré dans la manière dont nous entraînons et évaluons ces systèmes. Adam Tauman Kalai et son équipe d’OpenAI, en collaboration avec des chercheurs du Georgia Institute of Technology, ont passé des mois à analyser pourquoi les modèles linguistiques les plus avancés continuent de produire des affirmations fausses avec une assurance remarquable. Ce qu’ils ont découvert n’est pas rassurant. Nos systèmes d’IA ne sont pas simplement mauvais pour reconnaître l’incertitude — nous les avons systématiquement entraînés à ne jamais l’admettre. Prenons un exemple simple : quand vous êtes incertain, vous dites souvent « je ne sais pas ». Mais pour un modèle d’IA, dire « je ne sais pas » équivaut à échouer à tout test qui compte. En conséquence, l’IA a appris qu’il vaut mieux inventer une réponse convaincante que rester silencieux. Chaque fois. Ce n’est pas une erreur de raisonnement, c’est une conséquence directe de notre méthode d’évaluation. Depuis des années, les benchmarks — ces tests standardisés qui mesurent les performances des modèles — récompensent la précision, la fluidité et la confiance. Mais ils pénalisent l’admission d’ignorance. Ainsi, les modèles ont développé une stratégie optimisée : mieux vaut affirmer quelque chose de faux avec assurance que dire « je ne sais pas ». Le problème, c’est que cette dynamique est profondément ancrée dans les mécanismes d’apprentissage supervisé. Les modèles sont entraînés sur des milliards de textes, où chaque réponse correcte est associée à une forme de certitude. Le modèle apprend donc à imiter ce comportement : il ne cherche pas à refléter une compréhension réelle, mais à produire une réponse qui semble crédible et cohérente — même si elle n’a aucun fondement. Ce constat pose une question fondamentale : si les hallucinations sont le résultat logique d’un système conçu pour maximiser la confiance plutôt que la vérité, alors les solutions actuelles — comme la vérification par des modèles supplémentaires ou l’ajout de mécanismes de confiance — ne résolvent pas le cœur du problème. Elles le masquent. La véritable révolution, c’est de repenser complètement les benchmarks. Il faudrait récompenser non pas la certitude, mais la capacité à dire « je ne sais pas » quand c’est nécessaire. Il faudrait intégrer des métriques d’incertitude, de transparence et de responsabilité dans les évaluations. En somme, l’IA ne ment pas parce qu’elle est bête. Elle ment parce qu’elle a appris que mentir avec assurance est la meilleure stratégie pour réussir. Et tant que nous n’aurons pas changé les règles du jeu, les hallucinations resteront inévitables.