Nenad Tomasev Matija Franklin Joel Z. Leibo Julian Jacobs William A. Cunningham et al

Abstract

Die rasche Einführung autonomer KI-Agenten führt zu einer neuen wirtschaftlichen Schicht, in der Agenten in Maßstäben und Geschwindigkeiten miteinander transaktieren und koordinieren, die jenseits direkter menschlicher Aufsicht liegen. Wir schlagen den Begriff der „Sandbox-Wirtschaft“ als Rahmenwerk zur Analyse dieses entstehenden Systems vor und charakterisieren ihn anhand zweier zentraler Dimensionen: seiner Herkunft (emergent vs. intentional) und seines Grades der Trennbarkeit von der etablierten menschlichen Wirtschaft (durchlässig vs. undurchlässig). Unser aktueller Entwicklungsverlauf deutet auf eine spontane Entstehung einer umfangreichen und hochdurchlässigen KI-Agenten-Wirtschaft hin, die uns neue Möglichkeiten für eine bislang ungekannte Koordinationskraft bietet – gleichzeitig aber auch erhebliche Herausforderungen mit sich bringt, darunter systemische wirtschaftliche Risiken und verstärkte Ungleichheit. In diesem Beitrag diskutieren wir verschiedene mögliche Gestaltungsoptionen, die zu sicher steuerbaren Märkten für KI-Agenten führen könnten. Insbesondere betrachten wir Auktionssysteme zur fairen Ressourcenallokation und Präferenzklärung, die Gestaltung von KI-„Missionen“ zur Koordination um gemeinsame Ziele sowie die notwendige sozio-technische Infrastruktur zur Gewährleistung von Vertrauen, Sicherheit und Rechenschaftspflicht. Auf dieser Grundlage plädieren wir für eine proaktive Gestaltung steuerbarer Agentenmärkte, um sicherzustellen, dass die kommende technologische Transformation mit dem langfristigen kollektiven Wohl der Menschheit übereinstimmt.