Chercheurs critiquent l'accès limité d'OpenAI à ses percées

OpenAI a présenté, lundi, trois résultats qu’elle présente comme des avancées importantes en mathématiques, en informatique et en physique, mais cette annonce a ravivé les critiques de chercheurs qui reprochent au laboratoire d’intelligence artificielle de contrôler trop étroitement l’accès à ses découvertes. L’entreprise dit avoir fait évoluer sa manière de publier ses travaux après des mois de tensions avec la communauté scientifique, marqués notamment par la diffusion massive de centaines de textes générés par IA au début du mois d’octobre. Dans ce nouvel ensemble, chaque résultat concernerait des problèmes jusqu’ici ouverts et d’une portée importante. Les trois travaux s’appuient, pour certains, sur des recherches antérieures d’OpenAI, tandis que d’autres ouvriraient de nouvelles pistes. La méthode de publication, elle, varie. Pour le résultat mathématique, l’entreprise a rendu public la sortie produite par l’IA, laissant aux chercheurs le soin d’expliquer eux-mêmes la portée du résultat. Pour l’avancée informatique, OpenAI prévoit de réunir un groupe externe de spécialistes chargé de rendre le résultat plus compréhensible. Le résultat en physique, lui, n’est pas encore diffusé, et l’entreprise affirme vouloir attendre l’avis d’experts extérieurs avant de publier davantage d’éléments. Cette approche est censée répondre à une critique récurrente: la difficulté, pour la communauté scientifique, d’évaluer rapidement des contributions issues d’IA, surtout lorsque les documents sont vastes, techniques ou peu contextualisés. OpenAI explique s’être appuyée sur des “passeurs” experts pour décider des meilleures modalités de diffusion. Mais plusieurs chercheurs contactés par The Verge jugent cette stratégie toujours insuffisante. Pour eux, annoncer publiquement un résultat tout en réservant d’abord sa vérification à une sélection d’experts désignés par l’entreprise revient à maintenir une forme de verrouillage académique. Les réactions saluent pourtant la qualité supposée des résultats. Plusieurs spécialistes les décrivent comme importants, voire majeurs, et reconnaissent qu’il existe des raisons sérieuses de les prendre au sérieux. Ce qui les irrite n’est donc pas tant la science annoncée que la manière dont OpenAI cherche à en cadrer la lecture. Certains estiment qu’une annonce publique devrait automatiquement s’accompagner d’un accès ouvert à tous les éléments permettant l’examen: preuve formelle, description du problème, méthodes employées et information sur la façon dont les sujets ont été choisis. Constantin Kogler, chercheur à l’Institute for Advanced Study, apprécie que l’entreprise ait limité sa nouvelle publication à trois résultats plutôt que de noyer la communauté sous une avalanche de documents, mais il juge peu logique que seuls quelques scientifiques distingués y accèdent d’abord. Andreas Karch, professeur de physique à l’Université du Texas à Austin, va plus loin: il estime que les grands laboratoires d’IA disposent déjà d’une influence excessive et ne devraient pas désigner eux-mêmes les experts habilités à examiner leurs travaux. Il a évoqué l’idée d’une sélection concurrentielle avant de plaider pour une publication immédiate des preuves, en plus de la consultation d’un panel d’experts. Ces objections rejoignent celles du groupe consultatif sur les mathématiques et l’IA, l’AGMAI, qui avait mis en garde la veille même de l’annonce contre cette pratique. Selon ses membres, réserver les premiers accès à certains chercheurs est inutile, présente des risques d’inégalités, favorise une sélection biaisée et peut retarder l’évaluation scientifique. L’organisme recommande plutôt la publication rapide des travaux sur des dépôts académiques, accompagnée des preuves nécessaires et d’un soutien matériel à ceux qui devront les comprendre. Après la diffusion des nouveaux résultats, il a demandé qu’OpenAI rende sans délai accessibles les sorties en langage naturel et en format Lean associées à ses annonces en physique. Le débat dépasse désormais la seule communication. Pour plusieurs mathématiciens, le problème est plus profond: les résultats impressionnent, mais ils sont produits à une vitesse inédite, parfois sans contribution humaine directe, et demeurent difficiles à lire, à répliquer et à vérifier. Xiaoyu He, professeur de mathématiques au Georgia Institute of Technology, parle d’une tentative d’OpenAI de donner l’image d’une approche responsable, tout en ne réglant pas les tensions de fond créées par la puissance de ces systèmes. OpenAI, de son côté, reconnaît qu’il n’existe sans doute pas de solution satisfaisant tout le monde. Jared Duker Lichtman, mathématicien à Stanford, résume l’embarras: quel que soit le mode de diffusion, quelqu’un sera mécontent. L’enjeu est donc, selon lui, de choisir l’option la moins problématique possible.