지난 10년간 인공지능의 발전은 기대를 뛰어넘어 왔습니다. 한때 공상 과학 소설에나 존재했던 일반 인공지능(AGI)은 이제 많은 주요 AI 연구 기관들이 향후 10년을 내다보며 달성하고자 하는 명확한 목표가 되었습니다. 하지만 더 중요한 질문은, 만약 AGI가 실제로 실현된다면 AI 발전이 정체될 것인가 하는 점입니다.

구글 딥마인드, 워털루 대학교, 호주 국립 대학교, 유니버시티 칼리지 런던의 공동 연구팀은 최근 논문에서 이처럼 먼 미래의 질문에 대해 논의했습니다. "특이점이 임박했다"고 성급하게 선언하거나 특정 연도를 예측하는 대신, 연구팀은 문제를 보다 차분하게 분석했습니다.인간 수준의 일반 인공지능 이후에도 인공지능 자체는 지능의 연속체 상에서 계속 진화할까요?그렇다면 인공 일반 지능(AGI)에서 인공 초지능(ASI)으로 나아가는 경로는 무엇일까요? 그리고 어떤 병목 현상이 이 과정을 늦추거나, 제한하거나, 심지어 변화시킬 수 있을까요?

이 논문은 미래에 대한 구체적인 시간표를 제시하는 것이 아니라, 인공지능의 향후 진화를 이해하기 위한 지도를 제공하는 것입니다. 이 논문은 다음과 같은 점을 상기시켜 줍니다.인공 일반 지능(AGI)이 끝이 아니라, 인공지능이 인간의 평균 수준을 뛰어넘은 후 시작되는 새로운 단계일 가능성이 더 높습니다.

"인공 일반 지능에서 인공 초지능으로"라는 제목의 관련 연구 결과가 논문 사전 공개 플랫폼인 arXiv에 게재되었습니다.

논문 보기:
https://hyper.ai/papers/2606.12683/pdf

인공 일반 지능(AGI) 이후, 지능은 어떻게 지속적으로 향상될 수 있을까요?

"인공지능 이후"에 대해 논의하기 전에 먼저 한 가지 질문을 명확히 해야 합니다. 인공지능이 "더 강해졌다"는 말은 어느 정도를 의미하는 것일까요?

일상적인 논의에서 AGI는 흔히 "인간만큼 지능적인 인공지능"으로 간단히 이해됩니다. 하지만 이 정의는 정확하지 않습니다. 누구만큼 지능적이라는 것일까요? 일반인처럼 지능적이라는 것일까요, 아니면 전문가처럼 지능적이라는 것일까요? 시험, 글쓰기, 프로그래밍과 같은 인지 작업에서 인간과 유사한 수행 능력을 보이는 것일까요, 아니면 장기적으로 현실 세계에서 행동하고, 학습하고, 계획하고, 스스로 오류를 수정할 수 있는 것일까요? 이 논문에서는 비교적 간략하지만 논의하기 쉬운 정의를 채택합니다.AGI는 인공 일반 지능을 의미하며, 대략 평균적인 인간 수준과 유사합니다.이는 특정 분야에서 인간을 능가하는 시스템이 아니라, 충분히 광범위한 인지 과제에서 일반인과 비슷한 수준의 일반적인 능력을 갖춘 시스템입니다.

이 정의는 다소 보수적으로 보일 수 있지만 매우 중요합니다. 오늘날의 인공지능은 체스, 단백질 구조 예측, 코드 생성, 이미지 인식 등 여러 단일 작업 영역에서 이미 인간을 능가했습니다. 그러나 단일 영역에서 인간을 능가하는 것이 인공 일반 지능(AGI)을 의미하는 것은 아닙니다. AGI는 다재다능함, 즉 다양한 작업과 상황에 적응하고 이해하며 적용할 수 있는 능력을 강조합니다. AGI는 지능 스펙트럼의 끝이 아닙니다. 이 스펙트럼을 따라 더 위로 올라가면 인공 초지능(ASI)에 도달하게 되는데, 이것이 바로 본 논의의 대상입니다.

이 논문은 인공 초지능(ASI)에 대해 매우 높은 기준을 제시하고 있습니다. 특정 인공지능이 단일 분야에서 "세계 챔피언"이 된다는 것을 의미하는 것은 아닙니다.오히려 그것은 인간이 관심을 갖는 거의 모든 작업과 분야에서 인간의 능력을 뛰어넘는 능력을 가진 시스템을 의미합니다.더욱 중요한 것은 단순히 한 명의 전문가를 뛰어넘는 것이 아니라, 오랜 기간 협력해 온 수많은 전문가로 구성된 대규모 조직을 확실하게 능가하는 것입니다.

다시 말해서,AGI는 "일반인의 일반적인 인지 수준"으로 이해할 수 있는 반면, ASI는 "초전문가 조직의 일반적인 능력"에 더 가깝습니다.전자는 인공지능이 인간의 평균 수준에 도달할 수 있는지에 대한 질문에 답하고, 후자는 디지털 지능이 복제, 가속화, 협업 및 지속적으로 확장될 수 있게 되면 인간 집단의 능력을 훨씬 뛰어넘는 역량을 형성할 수 있을지에 대한 질문입니다.

이 논문은 AGI와 ASI 외에도 이론적 한계인 UAI(범용 인공지능) 또는 AIXI에 대해서도 논의합니다. AIXI는 수학적으로 이상화된 일반 지능형 에이전트로, 기계 지능의 이론적 상한선을 나타냅니다. 그러나 실제로 계산 가능한 것은 아닙니다.이는 오늘날 바로 학습시키고 배포할 수 있는 모델이 아닙니다. 오히려 이론적인 지표에 가깝습니다. 극단적인 경우 기계 지능이 어떤 모습일지 보여주며, 실제 시스템은 아래에서부터 접근해 나갈 수밖에 없습니다.

따라서 본 논문은 명확한 좌표계를 설정한다.AGI는 인간 수준의 일반 지능, ASI는 인간 전문가의 지능을 훨씬 뛰어넘는 초지능, 그리고 AIXI는 지능의 이론적 한계를 의미합니다.이 정의는 단순한 개념적 유희가 아니라 이후 모든 논의의 토대가 됩니다. 인공 일반 지능(AGI)이 평균 인간 수준의 문턱을 넘는 데 그친다면, 진정한 질문은 더 이상 "AGI가 등장할 것인가?"가 아니라 "이 문턱을 넘은 후 디지털 지능이 계속해서 더 높은 수준으로 발전할 것인가?"가 되기 때문입니다.

인공 일반 지능(AGI)에서 인공 초지능(ASI)으로 가는 경로는 하나 이상일 수 있다.

본 논문은 다음과 같이 주장합니다.인공 일반 지능(AGI)에서 인공 초지능(ASI)으로 나아가는 기술적 경로는 최소 네 가지가 있습니다.이 두 가지는 상호 배타적이지 않으며, 반드시 순차적으로 발생하는 것도 아닙니다. 오히려 미래에는 병행하여 발전하고 서로 겹칠 가능성이 더 높습니다.

첫 번째 방법은 컴퓨팅, 모델 및 데이터를 지속적으로 확장하는 것입니다.지난 10년간 인공지능(AI) 역량의 발전은 주로 규모 확장에 기인했습니다. 즉, 컴퓨팅 파워 증가, 모델 규모 확대, 데이터 양 증가, 그리고 알고리즘 효율성 향상에 힘입은 것입니다. 하지만 AI가 일반 인공지능(AGI)의 문턱을 넘어서면 이러한 추세가 계속될 것인가 하는 의문이 남습니다. 모델 규모를 키우고 컴퓨팅 파워를 높이는 것이 필연적으로 더 높은 수준의 지능으로 이어질까요? 이에 대한 답은 아직 불확실합니다.

하지만 이 논문은 개별 모델의 기능 향상 속도가 둔화되더라도 AI 시스템의 전반적인 기능은 계속해서 향상될 수 있다고 지적합니다. 이는 디지털 지능이 생물학적 지능에는 없는 장점을 가지고 있기 때문입니다. 디지털 지능은 복제, 가속, 일시 중지 및 재개가 가능하며, 매우 높은 대역폭으로 경험을 공유할 수 있습니다. 만약 인공 일반 지능(AGI) 시스템이 수백만 또는 수억 개의 인스턴스로 복제되어 병렬로 작동하고, 서로 협력하며, 빠르게 실행될 수 있다면,따라서 비록 단일 사례가 "인간 수준"에 불과하더라도 전체 시스템은 인간 조직의 능력을 훨씬 뛰어넘는 역량을 보여줄 수 있습니다.

두 번째 방법은 알고리즘의 패러다임 전환입니다.오늘날 주류 인공지능 패러다임은 일반적으로 대규모 데이터에 기반한 기초 모델을 학습시킨 후, 명령어, 강화 학습, 도구 활용, 검색 기능 향상, 테스트 시점 추론 등을 통해 모델의 성능을 개선하는 방식을 채택하고 있습니다. 그러나 이러한 접근 방식만으로 인공지능(ASI)을 달성하기에 충분한지는 아직 미지수입니다.

기존 모델들은 여전히 상당한 한계를 가지고 있습니다. 예를 들어, 지속적인 학습, 장기 기억, 견고한 계획 수립, 실제 상호작용, 인과관계 이해, 그리고 무한한 작업 실행 측면에서 신뢰성이 부족합니다. 미래에 인공 일반 지능(AGI)에서 인공 초지능(ASI)으로 나아가는 것은 단순히 기존 모델을 확장하는 것만큼 간단하지 않을 수 있습니다.대신, 새로운 아키텍처, 새로운 훈련 목표, 새로운 메모리 메커니즘, 그리고 새로운 세계 모델이 필요합니다.새로운 하드웨어 형태까지.

세 번째 경로는 재귀적 자기 개선입니다.이는 '지능 폭발'과 가장 쉽게 연관되는 경로입니다. 인공지능이 인공지능 연구 개발에 참여하기 시작하면서 차세대 인공지능의 발전을 가속화하는 것을 의미합니다. 이러한 자기 개선은 단순히 인공지능이 자신의 코드를 수정하는 것에 그치지 않습니다. 인공지능이 더 나은 모델 아키텍처를 설계하고, 훈련 과정을 최적화하고, 더 높은 품질의 데이터를 생성하고, 칩과 컴퓨팅 시스템을 설계하고, 실험을 자동으로 수행하고 결과를 분석하는 것까지 포함할 수 있습니다. 인공지능이 인공지능 연구 개발의 효율성을 크게 향상시킬 수 있게 되면, 긍정적인 피드백 루프가 형성될 수 있습니다.더욱 발전된 인공지능은 더욱 발전된 인공지능의 개발을 촉진하고, 이는 다시 연구 개발 효율성을 더욱 향상시킵니다.

하지만 이 논문은 그러한 폭발적인 성장이 반드시 일어날 것이라고 단정짓지는 않습니다. 재귀적인 자기 개선 과정 역시 현실 세계의 마찰에 부딪힐 것입니다. 더 큰 모델은 더 많은 실험 비용을 필요로 하고, 더 발전된 칩은 실제 공급망에 의존하며, 더 복잡한 과학적 문제는 물리적 세계에서의 검증을 요구합니다. 인공지능 연구자들이 디지털 세계에서는 빠른 속도로 연구를 진행할 수 있다 하더라도, 실험 주기, 제조 주기, 그리고 자원 제약으로 인해 속도가 느려질 수 있습니다.

네 번째 경로는 대규모 다중 에이전트 시스템에서 ASI가 출현하는 것입니다.초지능은 반드시 단일 모델에서 비롯되는 것은 아니며, 수많은 인공 일반 지능(AGI)의 집합체에서도 발생할 수 있습니다. 인류 문명의 능력은 개개인의 두뇌에서 나오는 것이 아니라 언어, 제도, 조직, 시장, 과학 공동체, 그리고 전문화에서 비롯됩니다. 만약 인공지능 에이전트들이 이와 유사하거나 더욱 효율적인 협력 구조를 형성할 수 있다면, 인공 초지능은 "조직 지능"의 결과물로 나타날 수 있을 것입니다.

이러한 맥락에서 미래의 초지능은 완전 자동화된 거대 기업, 디지털 연구 공동체, 또는 수많은 전문 지능형 에이전트로 구성된 자기 조직화 시스템과 유사할 수 있습니다. 이들은 분업, 협업, 검토, 복제 및 재구성을 통해 인간 조직보다 훨씬 빠른 속도로 경험을 축적할 수 있습니다. 따라서,인공 일반 지능(AGI)에서 인공 초지능(ASI)으로의 진화는 특정 모델의 갑작스러운 질적 변화를 의미하는 것도 아니고, 기술적 경로가 하나뿐인 것도 아닙니다.이는 규모 확장, 패러다임 전환, 자기 개선 및 다중 에이전트 협업이 복합적으로 작용한 결과일 가능성이 더 높습니다.

속도를 결정하는 여섯 가지 병목 현상: 어떤 마찰력이 작용할까요?

네 가지 발전 경로가 인공지능이 앞으로 나아갈 수 있는 방향을 설명한다면, 여섯 가지 병목 현상은 이러한 진화가 저항에 부딪힐 지점과 속도를 늦출 수 있는 요인을 논한다.

첫째, 데이터오늘날 대규모 모델은 고품질의 인간 데이터를 활용한 학습에 크게 의존하지만, 텍스트, 코드, 이미지, 비디오, 전문가 데이터는 무한하지 않습니다. 모델이 미래에도 계속 확장된다면 데이터 수요는 인간이 자연적으로 데이터를 생성하는 속도를 초과할 수 있습니다. 합성 데이터, 자체 실행, 시뮬레이션 환경은 새로운 데이터 소스가 될 수 있지만, 이러한 요소들이 지속적으로 충분히 높은 품질의 신선하고 다양한 데이터를 제공할 수 있을지는 여전히 미지수입니다.

둘째로, 자원이 있습니다.컴퓨팅 규모 확장은 추상적인 방식으로 이루어지는 것이 아닙니다. 칩, 데이터 센터, 전력, 냉각 시스템, 공급망, 자본 투자 및 엔지니어링 인력이 필요합니다. 초고해상도(ASI) 달성이 학습 및 추론 컴퓨팅의 지속적인 확장에 달려 있다면 에너지, 토지, 첨단 제조 시설, 네트워크 인프라 및 자본 투자는 모두 현실적인 제약 조건이 될 것입니다. 인공지능 기능의 성장은 궁극적으로 알고리즘뿐만 아니라 현실 세계가 점점 더 커지는 컴퓨팅 시스템을 지원할 수 있는지 여부에 달려 있습니다.

셋째, 기존의 신경망 패러다임은 충분한가?대규모 모델 접근 방식은 큰 성공을 거두었지만, 성공이 무한한 것은 아닙니다. 현재 시스템은 장기적인 자율 행동, 지속적인 학습, 견고한 인과 추론, 추상적 개념 발견, 복잡한 환경에서의 신뢰할 수 있는 계획 수립과 같은 고차 일반 지능으로 나아가기 위해 필요한 핵심 역량들을 여전히 결여하고 있을 수 있습니다. 이러한 문제들이 단순히 규모를 키우는 것만으로는 해결되지 않는다면, 인공 일반 지능(AGI)에서 인공 초지능(ASI)으로의 전환은 단순히 "크기를 키우는 것"이 아니라, 역량 구조에 대한 더 큰 돌파구를 필요로 할 것입니다.

넷째, 연구 자체가 점점 더 어려워질 것입니다.어떤 기술 분야든 초기 단계에는 비교적 직접적인 개선을 통해 상당한 발전을 이룰 수 있는 "손쉬운 성과"들이 많습니다. 그러나 해당 분야가 성숙해짐에 따라, 다음 단계로 나아가기 위해서는 더 높은 비용, 더 큰 규모의 실험, 그리고 더 복잡한 연구 시스템이 요구될 수 있습니다. 인공지능(AI) 분야도 예외는 아닐 것입니다. 진정한 불확실성은 AI가 연구 효율성을 향상시키는 속도가 연구 자체의 난이도 증가 속도보다 빠를지에 있습니다.

다섯째, 추상화라는 장벽이 있습니다.오늘날의 인공지능(AI)은 주로 방대한 양의 인간 데이터를 기반으로 학습하며, 인간이 이미 표현한 개념, 언어, 지식, 추론 패턴을 학습합니다. 하지만 인간이 아직 발견하지 못한 새로운 개념, 과학 이론, 추상적 구조를 찾아내야 하는 사물 인공지능(ASI)으로 나아가려면 AI가 진정으로 이를 달성할 수 있을까요? AI가 단순히 기존 지식을 재구성하는 데 그친다면 인간 과학계를 진정으로 능가하기는 어려울 것입니다. AI는 원시 데이터와 실제 상호작용으로부터 새로운 구조, 새로운 변수, 새로운 인과관계를 발견할 수 있어야 합니다. 더욱 현실적으로는, 많은 새로운 추상화 개념은 물리적 실험을 통해 검증되어야 합니다. AI가 가설을 빠르게 세울 수 있다 하더라도, 실험 주기, 제조 조건, 실제 피드백 속도에 의해 한계를 느낄 수밖에 없습니다.

마지막으로, 인간 사회의 의도적인 속도 저하가 있습니다. 인공지능은 진공 상태에서 발전하는 것이 아닙니다. 인공지능의 역량이 향상됨에 따라 안보, 윤리, 고용, 군사, 금융, 교육, 정보 확산, 사회 거버넌스와 관련된 문제들이 더욱 심각해질 것입니다. 고도화된 인공지능 시스템이 중대한 사고를 일으키거나 사회가 위험이 이점보다 크다고 인식할 경우, 규제, 국제 협약, 업계 자율 규제, 여론 등이 선제적으로 속도를 늦추는 역할을 할 수 있습니다. 물론 이러한 속도 저하는 경제 및 지정학적 경쟁에 의해 상쇄될 것이므로, 그 자체로 복잡한 변수입니다.

이 여섯 가지 병목 현상은 종합적으로 인공 일반 지능(AGI)에서 인공 초지능(ASI)으로의 진화 속도를 결정짓는 요인이며, 초지능 문제는 단순히 기술적인 문제일 뿐만 아니라 자원, 조직, 과학, 그리고 거버넌스의 문제이기도 하다는 점을 상기시켜 줍니다.

그것은 특이점이 아니라 일련의 변화입니다.

초지능에 대한 많은 논의는 미래를 단 하나의 중대한 사건, 즉 언젠가 인공 일반 지능(AGI)이 등장하여 세상을 순식간에 바꿔놓을 것이라는 식으로 묘사하는 경향이 있습니다. 그러나 이 논문은 그보다 더 복잡하고 현실적인 그림을 제시합니다. AGI와 ASI 사이에는 명확하고 극적인 구분선이 없을 수도 있습니다.오히려 인공지능에 의해 주도되는 일련의 과학적, 기술적, 사회적 변화들이 누적되어 궁극적으로 세계는 계속 진화하면서 완전히 다른 상태로 나아갈 가능성이 더 높습니다.

가장 먼저 바뀔 것은 과학적 발견의 속도일 것이다.인공지능이 문헌을 읽고, 가설을 세우고, 실험을 설계하고, 시뮬레이션을 실행하고, 데이터를 분석하고, 연구 방향을 지속적으로 최적화할 수 있다면,과학 연구는 "인간 연구자가 AI 도구를 사용하는 것"에서 "인간과 AI가 공동으로 연구 시스템을 구축하는 것"으로 전환될 것이다.미래의 혁신은 반드시 한 명의 천재에게서 나오는 것이 아니라, 고속으로 끊임없이 반복되는 디지털 연구 네트워크에서 나올 수도 있습니다.

둘째로, 조직 구조가 변경되었습니다.오늘날 기업, 연구소, 정부 기관은 여전히 인간 중심적인 모델로 운영되고 있습니다. 인간의 시간, 주의 집중 시간, 기억력, 통신 대역폭, 학습 속도는 모두 조직 역량의 한계를 규정합니다. 그러나 AI 에이전트는 병렬적으로 작동하고, 끊김 없이 복제되며, 빠른 속도로 경험을 공유하고, 필요에 따라 신속하게 생성 및 재조합될 수 있습니다.미래의 조직은 더 이상 단순히 사람으로만 구성되는 것이 아니라, 사람, AI 에이전트, 자동화된 프로세스, 지식 기반, 도구 시스템, 그리고 외부 환경으로 구성될 수도 있습니다.

달라질 수 있는 것은 인류가 스스로의 역할을 이해하는 방식일 것이다.만약 인공지능이 단순한 도구에 불과하다면, 인간은 여전히 주요 의사결정자이자 창조자로서의 지위를 유지할 것입니다. 그러나 인공지능 시스템이 지속적으로 학습하고, 협력하고, 스스로를 개선하여 점점 더 많은 분야에서 전문가 조직을 능가할 수 있다면, 인간 사회는 권력, 책임, 노동, 교육, 창의성, 그리고 통치 구조를 재고해야 할 것입니다. 그 시점에 이르면 질문은 단순히 "인공지능이 인간에게 무엇을 해줄 수 있는가"가 아니라, "고도로 지능적인 시스템 속에서 인간은 어떻게 스스로를 재정의할 것인가"가 될 것입니다.

이것이 반드시 비관적인 결말을 의미하는 것은 아닙니다. 이 논문은 미래를 단순히 유토피아나 디스토피아로 묘사하는 것이 아닙니다. 이 논문이 진정으로 강조하는 것은 불확실성입니다.인공지능의 발전 속도는 인간 수준에 근접할 정도로 둔화될 수도 있고, 계속해서 가속화될 수도 있다.이는 인터넷이나 스마트폰처럼 심오하지만 점진적으로 범용 기술로 자리 잡을 수도 있고, 이전의 기술 혁명보다 훨씬 더 큰 지속적인 충격을 가져올 수도 있다.

그러므로, 인공 일반 지능(AGI) 이후의 세계에 대한 가장 위험한 태도는 낙관론이나 비관론이 아니라, AGI를 최종 목표로 여기는 태도입니다. AGI가 등장한다면, 진정한 문제는 이제 막 시작될 뿐입니다. 그때 인류는 단순히 더 강력한 도구에 직면하는 것이 아니라, 복제, 가속화, 협업, 경험 축적을 통해 스스로 진화할 수 있는 디지털 지능 시스템에 맞서게 될지도 모릅니다.

튜링은 "우리는 앞을 잠깐밖에 내다볼 수 없지만, 해야 할 일이 산더미처럼 많다는 것을 알 수 있다"라고 말했습니다. 이 말은 오늘날의 인공지능 시대를 적절하게 묘사하는 것 같습니다. 우리는 일반 지능(AGI)과 초지능 지능(ASI)이 언제 도래할지 정확하게 예측할 수 없으며, 어떤 방향으로 나아갈지 확신할 수도 없습니다. 하지만 분명한 것은 인공지능이 지능의 연속선상에서 계속 진화한다면, 인류는 단순히 기술적 이정표에 대비하는 것이 아니라, 심오하고 지속적인 변화에 대비해야 한다는 것입니다.

인공 일반 지능(AGI)이 종말은 아닙니다. 어쩌면 인류가 초지능의 문턱에 진정으로 서게 된 첫 번째 순간일지도 모릅니다.