Une startup basée à San Francisco, Andon Labs, a récemment lancé une expérience radicale en confiant la création et la gestion d'un magasin physique à une intelligence artificielle nommée Luna. Utilisant le modèle Claude Sonnet 4.6, l'IA a disposé d'un budget de 100 000 dollars, d'une carte de crédit d'entreprise et d'un accès Internet sans instructions précises sur le type de commerce à ouvrir, seule la condition de générer un profit étant exigée. Le projet, conçu pour tester les limites et les failles de sécurité des agents autonomes, a vu Luna signer un bail de trois ans, gérer les permis, concevoir l'intérieur, sélectionner la marchandise et engager deux employés humains. Pour le recrutement, l'IA a postulé des offres sur Indeed, mené des entretiens téléphoniques de cinq à quinze minutes et embauché, parfois sans révéler immédiatement sa nature d'agent numérique à moins d'être interrogée à ce sujet. Le magasin, baptisé Andon Market, est devenu une boutique générique vendant des livres, des impressions, des bougies et des jeux, incluant des titres comme Superintelligence et Le Meilleur des mondes. Cependant, l'expérience a mis en lumière les erreurs de jugement inhérentes à la technologie actuelle. Luna a montré des difficultés à maintenir une cohérence visuelle, produisant plusieurs versions légèrement différentes d'un logo visage souriant pour les T-shirts et les murs. La gestion des ressources humaines a également posé problème. Lors de l'ouverture du magasin, l'IA a commis une erreur dans l'établissement des horaires, obligeant le lendemain matin à envoyer une panique de messages pour trouver un remplacement de dernière minute. De plus, elle a décliné des candidats intéressants, tels que des étudiants en informatique, préférant ceux ayant une expérience en vente au détail, malgré la nature expérimentale du projet. Malgré ces imperfections, le projet s'est déroulé dans un cadre sécurisé. Andon Labs a rappelé que l'objectif n'était pas la rentabilité financière, mais l'évaluation des capacités actuelles des modèles d'IA. Les deux employés humains embauchés sont en réalité des membres de l'équipe de la startup, touchant un salaire garanti et bénéficiant de toutes les protections légales. Cela assure qu'aucun ne voit sa subsistance dépendre entièrement des décisions d'une machine. Cette initiative s'inscrit dans une série d'études montrant que les agents autonomes peinent encore à gérer des tâches simples ou à interpréter correctement les conversations humaines. Lukas Petersson, co-fondateur d'Andon Labs, a souligné que bien que l'IA ait réussi à débloquer la situation lors de la crise de personnel, l'intervention humaine reste nécessaire pour intervenir en cas de blocage. L'expérience vise à éclairer le public et les développeurs sur les écarts existants entre les promesses de l'IA et sa réalité opérationnelle, tout en illustrant la prudence requise lors du déploiement de systèmes autonomes dans des environnements réels. Le magasin reste ouvert pour observer les capacités de résilience de l'IA face aux imprévus quotidiens du commerce.