Nenad Tomasev Matija Franklin Joel Z. Leibo Julian Jacobs William A. Cunningham et al

초록

자율형 AI 에이전트의 급속한 도입은 인간의 직접적 감독을 초월한 규모와 속도로 에이전트들이 거래하고 조율하는 새로운 경제 계층의 등장을 가능하게 하고 있다. 우리는 이러한 부상하는 시스템을 분석하기 위한 프레임워크로 ‘샌드박스 경제(sandbox economy)’를 제안하며, 이 시스템을 두 가지 핵심 차원—기원(자발적 vs. 의도적)과 기존 인간 경제와의 분리 정도(투과 가능 vs. 투과 불가능)—에 따라 특성화한다. 현재의 발전 추세는 방대하고 매우 투과 가능한 AI 에이전트 경제가 자발적으로 등장할 가능성을 시사하며, 이는 협력의 새로운 수준을 가능하게 하는 기회를 제공할 뿐만 아니라 체계적 경제적 리스크와 불평등 심화와 같은 심각한 도전 과제도 동반한다. 본 논문에서는 안전하게 조정 가능한 AI 에이전트 시장을 지향할 수 있는 다양한 설계 선택지에 대해 논의한다. 특히 공정한 자원 배분과 선호도 해결을 위한 입찰 메커니즘, 공동 목표 달성을 중심으로 조직화하는 AI ‘미션 경제(mission economies)’의 설계, 그리고 신뢰성, 안전성, 책임성 보장을 위한 사회기술적 인프라의 구축을 고려한다. 이러한 논의를 통해 우리는 인간의 장기적 공동 번영과 부합하도록 미래 기술 전환을 사전에 설계할 필요성을 주장한다.