LLM : le raisonnement n'est qu'une illusion de prédiction

Un article publié par MIT Technology Review remet en question la capacité des grands modèles de langage à raisonner véritablement. Selon l'auteur, ces systèmes se limitent à une prédiction de mots suivants et à une reconnaissance de motifs statistiques, sans offrir de réflexion structurelle. Pour illustrer cette distinction, l'auteur s'appuie sur la célèbre 37e marche d'AlphaGo face à Lee Sedol en 2016. Bien que perçue comme un acte d'intuition créative, cette décision résultait en réalité du mécanisme de recherche de l'IA, qui évaluait systématiquement les conséquences futures de chaque coup, contrairement à son réseau neuronal qui suggérait une alternative statistiquement plus probable. Cette architecture double, combinant intuition rapide et vérification approfondie, reste un modèle que les intelligences artificielles contemporaines n'ont pas reproduit. Les grands modèles de langage fonctionnent essentiellement comme un système rapide et associatif. Leur méthode actuelle, dite chaîne de pensée, consiste à générer plusieurs étapes intermédiaires avant de répondre. Cependant, cette approche ne constitue pas un vrai raisonnement. Les modèles ne conservent aucune trace claire et vérifiable de leur état cognitif, mêlant indéfiniment leurs connaissances à leur processus de traitement. De plus, des études montrent qu'ils produisent souvent des justifications rétroactives, inventant un parcours logique après coup pour expliquer une réponse déjà acquise. Dans des domaines exigeants comme la médecine, l'ingénierie ou la recherche scientifique, cette opacité pose un problème majeur, car la traçabilité des conclusions et des hypothèses est indispensable. Pour combler cette lacune, une nouvelle architecture d'IA doit être développée. Inspirée du fonctionnement d'AlphaGo, elle devrait intégrer un réseau neuronal pour l'instinct et un mécanisme de raisonnement explicite pour l'analyse. Ce système devrait maintenir un état cognitif structuré, notant explicitement les certitudes, les doutes, les hypothèses écartées et les zones d'incertitude. Il pourrait s'appuyer sur des outils externes et des programmes pour vérifier ses affirmations et réduire progressivement les doutes. Une composante indépendante garantirait que chaque mise à jour de la connaissance s'appuie sur des preuves vérifiables. L'expansion de la taille des modèles de langage affûtera sans doute leur capacité à reconnaître des schémas, mais elle ne remplacera pas la pensée logique rigoureuse. Les avancées nécessaires pour la découverte de médicaments, la science des matériaux ou le diagnostic médical exigeront des machines capables de raisonner de manière auditable. Seul un système fondé sur une méthode scientifique structurée, capable de justifier ses démarches étape par étape, pourra fournir les connaissances fiables et innovantes que la société attend de l'intelligence artificielle future.