L’idée d’une intelligence artificielle générale (AGI) s’est imposée comme un mythe technologique dominant dans le paysage de la Silicon Valley, au point de paralyser l’ingénierie concrète. En lisant Empire of AI de Karen Hao, on découvre que des figures clés comme Elon Musk, fondateur d’OpenAI, voient en Demis Hassabis, dirigeant de DeepMind, un « méchant génie » menaçant, incarnant une vision dystopique de l’AGI. Musk, convaincu que DeepMind allait l’emporter, a fondé OpenAI comme une force du bien, une utopie technologique contre le danger d’un AGI non aligné. Cette vision n’est pas seulement stratégique : elle est quasi religieuse. Ilya Sutskever, co-fondateur et scientifique en chef d’OpenAI, a même organisé une cérémonie symbolique en 2022, où il a brûlé une effigie représentant une AGI « bienveillante » mais corrompue, pour illustrer la nécessité de la détruire avant qu’elle ne trahisse l’humanité. Ces gestes théâtraux reflètent une croyance profonde, presque mystique, en la possibilité imminente d’atteindre l’AGI. Cette croyance repose sur une hypothèse controversée : celle du « langage pur », selon laquelle l’AGI pourrait émerger simplement en entraînant des modèles sur de vastes quantités de texte, sans interaction avec le monde réel. L’extraordinaire succès de GPT-2 a renforcé cette croyance, conduisant OpenAI à poursuivre une course à l’échelle : plus de données, plus de paramètres, plus de puissance de calcul. Cette logique a conduit à la construction de centres de données géants, consommant des centaines de litres d’eau par seconde, fonctionnant avec des générateurs au gaz polluants car le réseau électrique ne peut pas suivre, et émettant des quantités massives de CO₂. Derrière ces infrastructures, des travailleurs sont exploités pour annoter des données, souvent dans des conditions traumatisantes, afin de filtrer les contenus dangereux via des méthodes comme le RLHF (récompense par apprentissage par renforcement humain). Tout cela est justifié par une argumentation fondée sur la valeur espérée (EV), selon laquelle même une probabilité infime d’obtenir une AGI bénéfique (par exemple 0,001 %) pourrait justifier des investissements colossaux, si la valeur potentielle est suffisamment élevée. Mais cette logique est fondamentalement illusoire : les probabilités et les valeurs sont arbitraires, non vérifiables, et ignorent les coûts réels et immédiats : dégradation environnementale, exploitation humaine, gaspillage énergétique. Ces externalités ont des impacts réels, mesurables et certaines, contrairement à l’AGI, qui reste une hypothèse spéculative. En tant que technologue, l’objectif devrait être de résoudre des problèmes de manière efficace, durable et éthique. Or, la quête de l’AGI par les grands modèles linguistiques (LLM) échoue sur tous les fronts : elle est excessivement coûteuse en ressources, nuisible à l’environnement et exploite les travailleurs. En abandonnant cette « fantasy » de l’AGI, on peut adopter une approche ingénierie rigoureuse : évaluer les modèles génératifs non pas comme des solutions universelles, mais comme des outils spécialisés. Utiliser des modèles plus petits, adaptés à des tâches précises, ou même des modèles discriminatifs (non génératifs), permettrait de faire des compromis réalistes, de réduire les coûts et d’optimiser les résultats. L’ingénierie ne consiste pas à poursuivre des rêves technologiques, mais à résoudre des problèmes concrets avec intelligence, responsabilité et sobriété.