PNNL décrypte le raisonnement mathématique des LLM
La convergence entre l'intelligence artificielle et les mathématiques ouvre de nouvelles perspectives pour la recherche scientifique. Henry Kvinge, chercheur en IA formé initialement aux mathématiques, et son équipe du Pacific Northwest National Laboratory travaillent à combler le fossé entre ces deux disciplines. Leur approche repose sur un principe clair : fournir des outils et des méthodes qui offrent une compréhension approfondie plutôt que de simples réponses numériques. Pour concrétiser cette vision, les chercheurs ont élaboré une cartographie des connaissances mathématiques à partir des représentations vectorielles issues de la bibliothèque Lean Mathlib. Chaque point de cette représentation reflète une assertion mathématique, la distance entre eux indiquant leur degré de similarité, tandis que les couleurs distinguent les domaines tels que l'algèbre ou la théorie des probabilités. Les travaux se concentrent principalement sur la combinatoire, un domaine discret particulièrement adapté à l'IA en raison de sa structure claire et de sa richesse en données. Des jeux de données de niveau recherche y sont désormais accessibles pour accélérer la découverte mathématique. Parallèlement, l'équipe examine comment les grands modèles de langage procèdent aux calculs. En analysant leurs calculs internes, les chercheurs identifient ce qu'ils appellent des modèles du monde mathématique, des systèmes simulés permettant à l'IA de prédire et de résoudre des problèmes, à l'image de la façon dont les humains appréhendent les lois physiques. Si les modèles capturent souvent des concepts reflétant la pensée humaine, ils diffèrent notablement de nos approches cognitives. Là où les humains s'appuient sur des règles simples et élégantes pour vérifier leurs raisonnements, les réseaux d'IA peuvent mémoriser d'immenses volumes de solutions ou privilégier une interprétation littérale des énoncés, parfois au détriment de l'esprit du problème. Cette analyse aide à décrypter le fonctionnement interne des algorithmes et à identifier les limites actuelles de la modélisation statistique. Pour favoriser les échanges entre les communautés mathématiques et informatiques, Henry Kvinge, Tim Doster et Tegan Emerson ont fondé en 2022 la communauté TAG-DS, dédiée à l'application de l'algèbre, de la topologie et de la géométrie aux sciences des données. Après plusieurs ateliers, la première conférence autonome TAG-DS s'est tenue les 1er et 2 décembre 2025 à l'Université de Californie à San Diego, en parallèle du congrès NeurIPS 2025. Elle accueillera sa prochaine édition en août 2026 à l'Université Northeastern. Ces initiatives s'accompagnent du développement d'outils pratiques. OpenConjecture, une base de données vivante recensant des milliers de conjectures mathématiques non démontrées, sert de plateforme collaborative. Par ailleurs, le projet TAGTorch, une bibliothèque compatible avec le framework PyTorch, vise à intégrer facilement des approches inspirées des mathématiques dans les recherches en apprentissage profond. Ces travaux, financés par le programme SciDAC du Département de l'Énergie américain, s'inscrivent également dans la mission Genesis, dont l'objectif est de développer des plateformes de calcul de pointe pour stimuler l'innovation et la découverte scientifique. En reliant rigoureusement la théorie mathématique et les capacités de l'IA, ces recherches promettent d'accélérer les avancées dans les deux domaines tout en renforçant la transparence des systèmes d'intelligence artificielle.
