Command Palette
Search for a command to run...
AGI에서 ASI로
AGI에서 ASI로
초록
지난 10년 동안, 인간 수준의 일반 인공지능(AI) 개발은 비현실적인 추측에서 가장 대규모 AI 조직들 중 다수가 향후 10년의 구체적인 목표로 설정한 현실적인 목표로 진전되었다. 이러한 목표를 달성하는 것은 인간 사회에 깊고 광범위한 영향을 미칠 것이며, 이는 앞으로 10년을 위해 많은 복잡한 질문들을 제기한다. 본 보고서는 기계적 지능의 연속선상에서 사후 AGI(Post-AGI) 시대에도 AI가 어떻게 계속 발전할 수 있는지 조사한다. 이 연속선의 끝점인 보편적 AI(Universal AI)는 이론적으로 잘 이해되어 있으며, 이는 본 보고서의 주요 초점인 인간 수준의 AGI에서 인공 일반 초지능(Artificial General Superintelligence, ASI)으로의 전환에 대한 형식적 토대를 제공한다. 직관적으로 ASI는 인간 대규모 조직보다 더 지능적이고 인지적 능력이 뛰어난 시스템으로 이해될 수 있다. ASI를 특성화한 후, 보고서는 AGI에서 ASI로 이어지는 네 가지 잠재적 경로, 즉 AGI의 규모 확대(scaling), AI 패러덤 변화(AI paradigm shifts), 재귀적 개선(recursive improvement), 그리고 대규모 다중 에이전트 집단(large-scale multi-agent collectives)으로부터의 ASI 출현을 논의한다. 그런 다음 보고서는 이러한 경로들을 따라 발생할 수 있는 마찰과 병목 현상에 대해 논의한다. 이러한 마찰들의 영향이 미미한지 아니면 상당한지 여부를 결정하는 것은 여러 구체적인 개방된 연구 질문들을 제기한다. ASI 진전을 예측하는 데 있어 큰 불확실성으로 인해, 향후 몇 년 동안 AI 진전이 계속 가속화될 가능성을 배제할 수 없다. 이는 인간 수준의 AGI가 우리 사회에 도입됨으로 인한 단일한 변혁적 단계 변화의 이미지가 부정확할 수 있음을 의미한다. 더 적절한 시나리오는 과학과 기술의 다양한 분야에서 AI 지원 진전 및 돌파구로 인해 발생하는 일련의 변혁적 사회 변화의 가능성일 것이다. 이러한 전망에 대비하기 위해서는 전 세계적 규모와 관심을 가진 막대한 다학제적 노력이 필요하다.
One-sentence Summary
This report investigates the transition from human-level artificial general intelligence to artificial general superintelligence by analyzing four potential pathways including scaling AGI, AI paradigm shifts, recursive improvement, and ASI emerging from large-scale multi-agent collectives, arguing that AI progress may involve a series of transformative societal changes rather than a single transformative step change, a prospect that necessitates a massively interdisciplinary endeavour of global scope to prepare for profound impacts.
Key Contributions
- The report characterizes the transition from human-level AGI to artificial superintelligence by defining Universal AI as the endpoint of a machine intelligence continuum. This framework provides formal grounding for analyzing development trajectories where systems exceed the cognitive capabilities of large human organizations.
- Four potential pathways to ASI are identified, including scaling AGI, AI paradigm shifts, recursive improvement, and multi-agent collectives, alongside specific frictions for each trajectory. Analysis details how economic limits, diminishing returns, and orchestration efforts may impede progress along these trajectories.
- Concrete research agendas are proposed to prepare for superintelligent systems, such as developing multi-agent scaling laws and monitoring mechanisms for AI-enabled research acceleration. These recommendations aim to advance foundational understanding of AI limits and track the degree of human-in-the-loop involvement in automated development processes.
Introduction
With human-level artificial general intelligence emerging as a near-term target, researchers must now investigate the trajectory toward artificial superintelligence to prepare for profound societal impacts. The authors note that existing forecasts often lack concrete technological pathways and struggle with uncertainties regarding compute scaling, algorithmic efficiency, and potential bottlenecks such as data exhaustion or economic limits. To navigate this uncertainty, the report characterizes superintelligence and outlines four potential technological pathways from AGI to ASI, including scaling, paradigm shifts, recursive improvement, and multi-agent collectives. Furthermore, the authors identify specific frictions along these routes and frame them as open research questions to guide future efforts in reducing uncertainty about AI capabilities.