Terence Tao dénonce les preuves IA « toxiques » en maths

Le mathématicien Terence Tao, lauréat de la médaille Fields, a exprimé dans une interview au journal The Observer et dans une tribune publiée dans Nature une vive inquiétude face à l’usage des problèmes mathématiques comme banc d’essai des modèles d’intelligence artificielle. Selon le professeur de l’UCLA, OpenAI, Anthropic et d’autres entreprises engagent une concurrence intense pour produire des preuves de problèmes longtemps ouverts, mais cette course pourrait déplacer l’attention de la compréhension vers la simple production de réponses. Au cœur de la polémique, la publication par OpenAI de résultats concernant 722 problèmes mathématiques non résolus. Tao a qualifié certaines de ces preuves, mal vérifiées et peu structurées, de “déchets toxiques”, car elles imposent ensuite aux mathématiciens un travail coûteux de contrôle, d’interprétation et d’intégration dans la discipline. Selon lui, une preuve même correcte peut manquer d’intérêt si elle n’éclaire pas les méthodes, les idées ou les liens conceptuels qui font avancer les mathématiques. L’entretien rapporte aussi une rivalité entre OpenAI et Anthropic autour de problèmes majeurs, notamment l’équation de Navier-Stokes, dont la régularité en trois dimensions reste une question ouverte de premier plan. Tao évoque un passage en priorité maximale, un investissement important et le déploiement massif d’agents d’IA, affirmations démenties par OpenAI, qui nie aussi avoir suspendu des inscriptions ou dépensé les sommes mentionnées. Le 8 septembre, OpenAI a fait état d’un résultat lié à Navier-Stokes, mais des experts contestent encore sa validité. Pour Tao, le risque n’est pas seulement technique. Si les entreprises détiennent les modèles les plus performants, elles peuvent aussi orienter les sujets étudiés et définir qui sera associé à leur exploitation. Il plaide pour une autre évolution, qu’il nomme “Maths 2.0”, où la communauté mathématique valoriserait davantage la compréhension, la collaboration et la vérification que le nombre de solutions produites. Une déclaration commune de plusieurs lauréats du Fields, publiée le 11 septembre, met en garde contre ce qu’elle appelle un désalignement grave entre l’évaluation des IA et les objectifs de la recherche mathématique. OpenAI affirme que les mathématiques relèvent d’un effort scientifique de long terme, sans rétention ni publication précipitée, et annonce 5 millions de dollars pour aider les chercheurs à examiner les découvertes assistées par IA. Tao, lui-même utilisateur d’outils d’IA, ne rejette pas la technologie. Il rappelle qu’un bon résultat ne remplace pas l’apprentissage tiré de sa construction. Les modèles ouvrent d’ailleurs de nouvelles interrogations, par exemple sur la complexité des structures géométriques ou linguistiques. Selon lui, l’enjeu de l’ère IA n’est pas de savoir qui trouve la solution, mais de préserver la capacité humaine à comprendre pourquoi elle fonctionne.