Nenad Tomasev Matija Franklin Joel Z. Leibo Julian Jacobs William A. Cunningham et al

Résumé

L’adoption rapide des agents autonomes alimentés par l’intelligence artificielle donne naissance à une nouvelle couche économique, dans laquelle ces agents effectuent des transactions et s’organisent à des échelles et à des vitesses dépassant la capacité de surveillance humaine directe. Nous proposons le concept d’« économie de sandbox » comme cadre d’analyse de ce système émergent, caractérisé selon deux dimensions clés : ses origines (émergentes ou intentionnelles) et son degré de séparation par rapport à l’économie humaine établie (perméable ou imperméable). À l’heure actuelle, notre trajectoire tend vers l’émergence spontanée d’une vaste économie d’agents intelligents hautement perméable, offrant des opportunités sans précédent en matière de coordination, tout en posant des défis importants, notamment des risques systémiques économiques et une aggravation des inégalités. Nous examinons ici plusieurs choix de conception susceptibles de conduire à des marchés d’agents intelligents sûrement pilotables. En particulier, nous étudions les mécanismes d’enchères pour une répartition équitable des ressources et la résolution des préférences, la conception d’économies « mission » pour les IA afin de coordonner autour d’objectifs collectifs, ainsi que les infrastructures socio-techniques nécessaires pour garantir la confiance, la sécurité et la responsabilité. En adoptant cette approche, nous défendons la conception proactive de marchés d’agents pilotables, afin de garantir que le changement technologique à venir s’aligne avec le bien-être collectif à long terme de l’humanité.