Command Palette
Search for a command to run...
De l'AGI à l'ASI
De l'AGI à l'ASI
Résumé
Au cours de la dernière décennie, la conception d’une intelligence artificielle générale (AGI) au niveau humain est passée du stade de spéculation lointaine à celui d’un objectif concret pour la décennie à venir, pour de nombreuses organisations majeures du secteur de l’IA. La réalisation de cet objectif aurait des impacts profonds et durables sur la société humaine, soulevant de nombreuses questions complexes pour la décennie à venir. Ce rapport examine comment l’IA elle-même pourrait continuer à évoluer dans un monde post-AGI, le long du continuum de l’intelligence artificielle. Le point final de ce continuum, l’IA universelle (Universal AI), est théoriquement bien compris, ce qui fournit un socle formel au thème principal de ce rapport : la transition de l’AGI au niveau humain vers une superintelligence artificielle générale (ASI). Intuitivement, cette ASI peut être définie comme un système plus intelligent et doté de capacités cognitives supérieures à celles de grands ensembles d’humains.Après avoir caractérisé l’ASI, le rapport expose quatre voies possibles de transition de l’AGI vers l’ASI : l’augmentation de l’échelle de l’AGI, les changements de paradigme en IA, l’amélioration récursive et l’émergence d’une ASI à partir de collectifs multi-agents à grande échelle. Le rapport examine ensuite les frictions et les goulets d’étranglement potentiels le long de ces voies. Déterminer si l’impact de ces frictions sera négligeable ou substantiel soulève un certain nombre de questions de recherche concrètes et non résolues. Compte tenu des fortes incertitudes qui entourent la prédiction des progrès vers l’ASI, il ne peut être exclu que le rythme des avancées en IA continue de s’accélérer dans les années à venir. Cela pourrait signifier que l’image d’un changement transformationnel unique, provoqué par l’introduction de l’AGI au niveau humain dans notre société, pourrait être inexacte. La perspective d’une série de changements transformationnels de la société, résultant de progrès et de percées en IA dans de nombreux domaines des sciences et technologies, apparaît plus pertinente. Se préparer à cette perspective nécessite une entreprise interdisciplinaire massive, à portée mondiale et d’intérêt global.
One-sentence Summary
This report investigates the transition from human-level artificial general intelligence to artificial general superintelligence by analyzing four potential pathways including scaling AGI, AI paradigm shifts, recursive improvement, and ASI emerging from large-scale multi-agent collectives, arguing that AI progress may involve a series of transformative societal changes rather than a single transformative step change, a prospect that necessitates a massively interdisciplinary endeavour of global scope to prepare for profound impacts.
Key Contributions
- The report characterizes the transition from human-level AGI to artificial superintelligence by defining Universal AI as the endpoint of a machine intelligence continuum. This framework provides formal grounding for analyzing development trajectories where systems exceed the cognitive capabilities of large human organizations.
- Four potential pathways to ASI are identified, including scaling AGI, AI paradigm shifts, recursive improvement, and multi-agent collectives, alongside specific frictions for each trajectory. Analysis details how economic limits, diminishing returns, and orchestration efforts may impede progress along these trajectories.
- Concrete research agendas are proposed to prepare for superintelligent systems, such as developing multi-agent scaling laws and monitoring mechanisms for AI-enabled research acceleration. These recommendations aim to advance foundational understanding of AI limits and track the degree of human-in-the-loop involvement in automated development processes.
Introduction
With human-level artificial general intelligence emerging as a near-term target, researchers must now investigate the trajectory toward artificial superintelligence to prepare for profound societal impacts. The authors note that existing forecasts often lack concrete technological pathways and struggle with uncertainties regarding compute scaling, algorithmic efficiency, and potential bottlenecks such as data exhaustion or economic limits. To navigate this uncertainty, the report characterizes superintelligence and outlines four potential technological pathways from AGI to ASI, including scaling, paradigm shifts, recursive improvement, and multi-agent collectives. Furthermore, the authors identify specific frictions along these routes and frame them as open research questions to guide future efforts in reducing uncertainty about AI capabilities.
Experiment
The provided text is labeled as a Glossary section and consists solely of an image reference without any accompanying text describing experimental procedures or results. Therefore, it is not possible to outline an evaluation setup or identify qualitative findings and conclusions from this material. This input lacks the necessary narrative details to describe experiment validations or overall outcomes.