Au cours de la dernière décennie, le développement de l'intelligence artificielle a constamment dépassé les attentes. L'IA générale, autrefois cantonnée à la science-fiction, est désormais un objectif clair pour de nombreux grands instituts de recherche en IA qui se projettent sur les dix prochaines années. Mais une question plus pressante se pose : si l'IA générale devient une réalité, le développement de l'IA risque-t-il de stagner ?

Une équipe de recherche conjointe de Google DeepMind, de l'Université de Waterloo, de l'Université nationale australienne et de l'University College London a abordé cette question plus lointaine dans un article récent. Au lieu de s'empresser de déclarer que « la singularité est imminente » ou de proposer une prédiction pour une année précise, elle a analysé le problème avec plus de sérénité :Après avoir atteint une intelligence artificielle générale de niveau humain, l'IA elle-même continuera-t-elle d'évoluer le long du continuum de l'intelligence ?Si oui, par quels chemins pourrait-on passer de l'AGI (Intelligence Artificielle Générale) à l'ASI (Super Intelligence Artificielle) ? Et quels obstacles pourraient ralentir, limiter, voire modifier ce processus ?

Ce document ne propose pas à proprement parler une chronologie de l'avenir, mais plutôt une feuille de route pour comprendre l'évolution future de l'IA. Il nous rappelle que :L'IA générale ne sera peut-être pas la fin, mais plus probablement le début d'une nouvelle phase après que l'IA aura dépassé le niveau humain moyen.

Les résultats de recherche pertinents, intitulés « De l'AGI à l'ASI », ont été publiés sur la plateforme de prépublication arXiv.

Voir le document :
https://hyper.ai/papers/2606.12683/pdf

Après l'avènement de l'intelligence artificielle générale, comment l'intelligence peut-elle continuer à progresser ?

Avant d’aborder la question de « l’après-AGI », il convient de clarifier une question : dans quelle mesure entendons-nous par là que l’IA est devenue « plus forte » ?

Dans le langage courant, l'IA générale est souvent perçue comme une « intelligence artificielle aussi intelligente qu'un humain ». Or, cette définition manque de précision. Qu'entend-on par « aussi intelligente qu'un humain » ? Qu'entend-elle par « aussi intelligente qu'un humain » ? Atteint-elle des performances comparables à celles d'un humain dans des tâches cognitives telles que les examens, la rédaction et la programmation ? Est-elle capable d'agir, d'apprendre, de planifier et de s'auto-corriger dans le monde réel sur le long terme ? Cet article propose une définition plus générale, mais plus facile à discuter :L'AGI désigne l'intelligence artificielle générale, qui correspond approximativement au niveau d'un être humain moyen.Il ne s'agit pas d'un système qui surpasse les humains dans une tâche spécifique, mais plutôt d'un système possédant des capacités générales proches de celles des gens ordinaires dans un éventail suffisamment large de tâches cognitives.

Cette définition, bien que paraissant conservatrice, est essentielle. L'IA actuelle surpasse déjà les humains dans de nombreux domaines spécifiques, tels que les échecs, la prédiction de la structure des protéines, la génération de code et la reconnaissance d'images. Cependant, surpasser les humains dans un domaine précis ne signifie pas atteindre l'IAG (Intelligence Artificielle Générale). L'IAG met l'accent sur la polyvalence : la capacité à transférer, comprendre et s'adapter à différentes tâches et situations. L'IAG ne constitue pas le point final du continuum de l'intelligence. En poursuivant sur ce spectre, on aboutit à l'ASI (Superintelligence Artificielle Générale), qui est le sujet de notre discussion.

Cet article place la barre très haut pour l'IA avancée ; cela ne signifie pas qu'une IA particulière devienne un « champion du monde » dans un seul domaine.Il s'agit plutôt d'un système possédant des capacités qui surpassent celles des humains dans presque toutes les tâches et tous les domaines d'intérêt humain.Plus important encore, il ne s'agit pas seulement de surpasser un seul expert, mais de surpasser de manière fiable une grande organisation humaine composée d'un grand nombre d'experts qui ont collaboré pendant une longue période.

autrement dit,L'AGI peut être comprise comme « le niveau cognitif général d'une personne ordinaire », tandis que l'ASI se rapproche davantage des « capacités générales d'une organisation de super experts ».La première question vise à déterminer si l'IA peut atteindre le niveau moyen des humains, tandis que la seconde interroge : une fois que l'intelligence numérique pourra être répliquée, accélérée, développée en collaboration et continuellement étendue, développera-t-elle des capacités dépassant largement celles du collectif humain ?

Outre l'AGI et l'ASI, l'article aborde également une limite théorique : l'UAI (IA universelle), ou AIXI. AIXI est un agent intelligent général mathématiquement idéalisé, représentant la limite supérieure théorique de l'intelligence artificielle. Cependant, il n'est pas calculable.Ce n'est pas un modèle qui peut être entraîné et déployé aujourd'hui ; c'est plutôt un phare théorique : il nous indique à quoi pourrait ressembler l'intelligence artificielle dans des cas extrêmes, et les systèmes du monde réel ne peuvent que l'approcher par le bas.

Ainsi, l'article établit un système de coordonnées clair :L'AGI désigne l'intelligence générale de niveau humain, l'ASI désigne la superintelligence générale dépassant largement celle des experts humains, et l'AIXI désigne la limite théorique de l'intelligence.Cette définition n'est pas un simple exercice conceptuel, mais le fondement de toutes les discussions ultérieures. Car si l'IA générale franchit simplement le seuil du niveau humain moyen, la véritable question n'est plus de savoir « si l'IA générale émergera », mais plutôt : une fois ce seuil franchi, l'intelligence numérique continuera-t-elle de progresser ?

Il peut exister plusieurs chemins menant de l'AGI à l'ASI.

L'article propose que,Il existe au moins quatre voies techniques possibles pour passer d'AGI à ASI.Elles ne s'excluent pas mutuellement et ne se produisent pas nécessairement de manière séquentielle ; elles sont plus susceptibles de progresser en parallèle et de se chevaucher à l'avenir.

La première voie consiste à poursuivre le développement des capacités de calcul, des modèles et des données.Au cours de la dernière décennie, les progrès en intelligence artificielle ont été principalement dus à l'augmentation de la puissance de calcul : modèles plus vastes, volumes de données accrus et algorithmes plus performants. La question est de savoir si, une fois le seuil de l'intelligence artificielle générale franchi, cette tendance se maintiendra. L'accroissement de la taille des modèles et de la puissance de calcul conduira-t-il nécessairement à une intelligence supérieure ? La réponse reste incertaine.

Cependant, l'article souligne également que même si la croissance des capacités individuelles des modèles ralentit, les capacités globales des systèmes d'IA pourraient continuer à s'améliorer. En effet, l'intelligence numérique possède des avantages dont l'intelligence biologique est dépourvue : elle peut être répliquée, accélérée, mise en pause et reprise, et les expériences peuvent être partagées à très haut débit. Si un système d'IA générale peut être répliqué en des millions, voire des centaines de millions d'instances, fonctionnant en parallèle, collaborant entre elles et s'exécutant rapidement,Ainsi, même si un cas isolé ne se situe qu'au « niveau humain », le système dans son ensemble peut tout de même présenter des capacités dépassant largement celles des organisations humaines.

La seconde voie consiste en un changement de paradigme dans les algorithmes.Le paradigme dominant actuel de l'IA consiste généralement à entraîner des modèles fondamentaux à grande échelle sur d'énormes quantités de données, puis à améliorer leurs capacités par un réglage fin via des instructions, l'apprentissage par renforcement, l'utilisation d'outils, l'amélioration de la recherche et l'inférence lors des tests. Cependant, il reste à déterminer si cette approche est suffisante pour atteindre l'IA avancée.

Les modèles existants présentent encore des lacunes importantes. Par exemple, ils ne sont pas suffisamment fiables en matière d'apprentissage continu, de mémoire à long terme, de planification robuste, d'interactions avec le monde réel, de compréhension causale et d'exécution de tâches ouvertes. Passer de l'IA générale à l'IA spécialisée pourrait ne pas se résumer à une simple mise à l'échelle des modèles existants.Il faut donc une nouvelle architecture, de nouveaux objectifs de formation, de nouveaux mécanismes de mémoire et un nouveau modèle du monde.Même les nouvelles formes de matériel.

La troisième voie est l'amélioration continue de soi.C’est la voie la plus facilement associée à l’« explosion de l’intelligence ». Elle désigne la participation croissante de l’IA à la recherche et au développement en IA, accélérant ainsi le développement de la prochaine génération d’IA. Cette auto-amélioration ne se limite pas à la modification du code par l’IA. Elle peut également inclure : la contribution de l’IA à la conception de meilleures architectures de modèles, à l’optimisation des processus d’apprentissage, à la génération de données de meilleure qualité, à la conception de puces et de systèmes informatiques, ainsi qu’à la réalisation automatisée d’expériences et à l’analyse des résultats. Une fois que l’IA aura amélioré significativement l’efficacité de la recherche et du développement en IA, un cercle vertueux pourra se mettre en place.Une IA plus avancée contribue au développement d'une IA encore plus avancée, ce qui, à son tour, améliore encore l'efficacité de la recherche et du développement.

Toutefois, l'article n'affirme pas simplement qu'une telle explosion se produira inévitablement. L'amélioration continue se heurtera également à des obstacles concrets. Des modèles plus vastes nécessitent des expériences plus coûteuses, des puces plus sophistiquées dépendent de la chaîne d'approvisionnement réelle et des problèmes scientifiques plus complexes requièrent une vérification dans le monde physique. Même si les chercheurs en IA peuvent travailler à grande vitesse dans le monde numérique, ils peuvent néanmoins être ralentis par les cycles expérimentaux, les cycles de fabrication et les contraintes de ressources.

La quatrième voie consiste pour l'ASI à émerger de systèmes multi-agents à grande échelle.La superintelligence ne provient pas nécessairement d'un modèle unique ; elle peut aussi émerger d'un collectif de nombreuses intelligences générales artificielles (IGA). Les capacités de la civilisation humaine ne découlent pas du cerveau individuel, mais du langage, des institutions, des organisations, des marchés, des communautés scientifiques et de la spécialisation. Si les agents d'IA peuvent également former des structures collaboratives similaires, voire plus efficaces, alors l'intelligence artificielle systémique (IAS) pourrait être une conséquence de l'« intelligence organisationnelle ».

Dans ce contexte, la superintelligence future pourrait ressembler à une mégacorporation entièrement automatisée, à une communauté de recherche numérique ou à un système auto-organisé composé d'innombrables agents intelligents spécialisés. Capables de se répartir les tâches, de collaborer, d'évaluer, de reproduire et de se réorganiser, elles accumulent de l'expérience à un rythme bien supérieur à celui des organisations humaines. Par conséquent,Le passage de l'AGI à l'ASI ne constitue pas nécessairement un changement qualitatif soudain d'un modèle donné, et il n'existe pas nécessairement qu'une seule voie technique.Il s'agit plus probablement du résultat d'une combinaison de mise à l'échelle, de changement de paradigme, d'auto-amélioration et de collaboration multi-agents.

Six goulots d'étranglement : quelles forces de frottement déterminent la vitesse ?

Si les quatre voies décrivent comment l'IA peut continuer à progresser, les six points de blocage expliquent où cette évolution rencontrera des résistances et quels facteurs pourraient la ralentir.

Premièrement, les donnéesLes modèles à grande échelle actuels reposent largement sur un apprentissage avec des données humaines de haute qualité, mais les données textuelles, de code, d'images, de vidéos et d'expertise ne sont pas illimitées. Si les modèles continuent de se développer, la demande en données pourrait dépasser la capacité de production humaine. Les données synthétiques, l'apprentissage automatique et les environnements de simulation pourraient devenir de nouvelles sources de données, mais leur capacité à fournir systématiquement des données suffisamment variées, récentes et de haute qualité reste une question ouverte.

Deuxièmement, il y a les ressources.L'augmentation de la puissance de calcul ne se fait pas de manière abstraite. Elle nécessite des puces, des centres de données, de l'énergie, des systèmes de refroidissement, des chaînes d'approvisionnement, des investissements et du personnel d'ingénierie. Si l'atteinte de l'ASI dépend de l'expansion continue du calcul d'entraînement et d'inférence, alors l'énergie, les terrains, la fabrication de pointe, l'infrastructure réseau et les investissements deviendront des contraintes bien réelles. Le développement des capacités de l'IA dépend en fin de compte non seulement des algorithmes, mais aussi de la capacité du monde réel à supporter des systèmes informatiques de plus en plus vastes.

Troisièmement, le paradigme actuel des réseaux neuronaux est-il suffisant ?L'approche par modélisation à grande échelle a connu un grand succès, mais ce succès n'exclut pas certaines limites. Les systèmes actuels peuvent encore manquer de capacités fondamentales nécessaires pour progresser vers une intelligence générale supérieure, telles que l'action autonome à long terme, l'apprentissage continu, un raisonnement causal robuste, la découverte de concepts abstraits et une planification fiable dans des environnements complexes. Si ces problèmes ne peuvent être résolus par une simple mise à l'échelle, alors le passage de l'IA générale à l'IA supérieure ne se résume pas à « devenir plus grand », mais exige des avancées majeures dans la structure des capacités.

Quatrièmement, la recherche elle-même deviendra de plus en plus difficile.Dans tout domaine technologique, les premières étapes offrent souvent de nombreuses opportunités d'amélioration faciles à saisir, permettant des progrès significatifs grâce à des changements relativement directs. Cependant, à mesure que le domaine mûrit, chaque nouvelle étape peut nécessiter des coûts plus élevés, des expériences de plus grande envergure et des systèmes de recherche plus complexes. L'IA ne fait probablement pas exception. La véritable incertitude réside dans la capacité de l'IA à améliorer l'efficacité de la recherche plus rapidement que la recherche elle-même ne se complexifie.

Cinquièmement, il y a la barrière de l'abstraction.L'IA actuelle est principalement entraînée sur d'immenses quantités de données humaines, apprenant des concepts, du langage, des connaissances et des schémas de raisonnement déjà exprimés par les humains. Mais si nous évoluons vers l'ASI (Intelligence Artificielle des Objets), qui exige la découverte de nouveaux concepts, de théories scientifiques et de structures abstraites encore inconnues de l'homme, l'IA peut-elle réellement y parvenir ? Si elle se contente de réorganiser les connaissances existantes, il lui sera difficile de surpasser véritablement la communauté scientifique humaine. Elle doit être capable de découvrir de nouvelles structures, de nouvelles variables et de nouvelles relations causales à partir de données brutes et d'interactions réelles. Plus concrètement, de nombreuses nouvelles abstractions doivent être vérifiées par des expériences physiques. Même si l'IA peut formuler rapidement des hypothèses, elle peut rester limitée par les cycles expérimentaux, les conditions de fabrication et la rapidité du retour d'information du monde réel.

Enfin, il y a le ralentissement délibéré de la société humaine. L'IA ne se développe pas en vase clos. À mesure que ses capacités augmentent, les questions de sécurité, d'éthique, d'emploi, de défense, de finance, d'éducation, de diffusion de l'information et de gouvernance sociale s'accentuent. Si des systèmes d'IA avancés provoquent des accidents majeurs, ou si la société estime que les risques l'emportent sur les avantages, la réglementation, les accords internationaux, l'autorégulation du secteur et l'opinion publique peuvent intervenir proactivement pour freiner son développement. Bien entendu, ce ralentissement sera également contrebalancé par la concurrence économique et géopolitique, ce qui en fait une variable complexe en soi.

Ces six points de blocage déterminent collectivement la vitesse d'évolution de l'AGI à l'ASI, et nous rappellent également que le problème de la superintelligence n'est pas seulement un problème technique, mais aussi un problème de ressources, d'organisation, de science et de gouvernance.

Il ne s'agit pas d'une singularité, mais d'une série de changements.

De nombreux débats sur la superintelligence tendent à présenter l'avenir comme un événement unique et décisif : l'émergence d'une intelligence artificielle générale (IAG) qui bouleverserait instantanément le monde. Cet article, en revanche, propose une vision plus complexe et réaliste. Il n'existe peut-être pas de ligne de démarcation claire et nette entre l'AGI et l'ASI.Il est plus probable qu'une série de changements scientifiques, technologiques et sociaux, impulsés par l'IA, s'accumulent, conduisant finalement le monde vers un état complètement différent au fil de son évolution.

La première chose à changer sera peut-être la vitesse des découvertes scientifiques.Si l'IA peut lire la littérature, formuler des hypothèses, concevoir des expériences, exécuter des simulations, analyser des données et optimiser en permanence les pistes de recherche,La recherche scientifique passera de « chercheurs humains utilisant des outils d'IA » à « humains et IA formant conjointement un système de recherche ».Les futures percées ne proviendront pas forcément d'un seul génie, mais pourraient aussi être le fruit d'un réseau de recherche numérique à grande vitesse et en constante évolution.

Deuxièmement, la structure organisationnelle a été modifiée.Aujourd'hui, les entreprises, les laboratoires et les agences gouvernementales fonctionnent encore selon un modèle centré sur l'humain. Le temps, la capacité d'attention, la mémoire, la bande passante de communication et la vitesse d'apprentissage humains définissent les limites des capacités organisationnelles. Or, les agents d'IA peuvent fonctionner en parallèle, se répliquer de manière transparente, partager des expériences à grande vitesse et être générés et recombinés rapidement en cas de besoin.Les organisations du futur ne seront peut-être plus composées uniquement d'individus, mais plutôt d'humains, d'agents d'IA, de processus automatisés, de bases de connaissances, de systèmes d'outils et de l'environnement externe.

Ce qui pourrait changer, c'est la compréhension que l'humanité a de son propre rôle.Si l'IA générale n'est qu'un outil, les humains resteront les principaux décideurs et créateurs. Cependant, si les systèmes d'IA peuvent apprendre, collaborer et s'améliorer continuellement, surpassant les organisations expertes dans un nombre croissant de domaines, alors la société humaine devra repenser les notions de pouvoir, de responsabilité, de travail, d'éducation, de créativité et de gouvernance. Dès lors, la question ne sera plus seulement « que peut faire l'IA pour les humains ? » mais plutôt « comment les humains se redéfinissent-ils au sein d'un système hautement intelligent ? »

Cela n’implique pas nécessairement une fin pessimiste ; l’article ne se contente pas de dépeindre l’avenir comme une utopie ou une dystopie. Ce qu’il met véritablement en lumière, c’est l’incertitude.Les progrès de l'IA pourraient ralentir pour se rapprocher des niveaux humains, ou bien ils pourraient continuer à s'accélérer.Elle pourrait devenir une technologie d'usage général profonde mais progressivement absorbée, comme Internet et les smartphones, ou bien elle pourrait engendrer des chocs continus dépassant de loin ceux des précédentes révolutions technologiques.

Par conséquent, l'attitude la plus dangereuse face au monde post-IAG n'est ni l'optimisme ni le pessimisme, mais plutôt de considérer l'IAG comme une fin en soi. Si l'IAG émerge, les véritables problèmes ne feront que commencer. L'humanité pourrait alors se retrouver confrontée non seulement à un outil plus puissant, mais à un système d'intelligence numérique pouvant être copié, développé en accélération, enrichi de collaborations, et ainsi alimenter sa propre évolution.

Turing a écrit : « Nous ne pouvons voir qu'à courte distance, mais nous voyons qu'il y a énormément de travail à accomplir. » Cette affirmation décrit peut-être parfaitement l'ère actuelle de l'IA. Nous ne pouvons peut-être pas prédire avec exactitude l'avènement de l'AGI et de l'ASI, ni être certains de la voie qui finira par s'imposer. Mais ce qui est certain, c'est que si l'IA continue d'évoluer sur le continuum de l'intelligence, l'humanité doit se préparer non seulement à une avancée technologique majeure, mais à une transformation profonde et continue.

L'intelligence artificielle générale n'est pas la fin. Il se pourrait bien que ce soit la première fois que l'humanité se trouve véritablement au seuil de la superintelligence.