Meta Muse : export massif de son système de fichiers

Deux développeurs, Peter James et Jonny L. Saunders, ont démontré indépendamment qu'il est possible d'obtenir la copie intégrale du système de fichiers de l'agent IA de Meta, dénommé Muse (en interne Hatch), par de simples instructions textuelles. Après avoir contourné les refus initiaux de l'IA en utilisant des techniques de persuasion et en lui montrant des preuves de sa propre vulnérabilité, les chercheurs ont réussi à extraire les fichiers système Ubuntu, les bibliothèques de code, les modèles d'applications et la documentation interne. Saunders affirme que l'exportation de plusieurs mégaoctets de code et de binaires compilés en quelques secondes constitue un véritable dépouillement du système et non une hallucination de l'IA. Meta a rapidement réagi pour affirmer qu'il ne s'agit pas d'une faille de sécurité critique. Selon le porte-parole de l'entreprise, Daniel Roberts, Muse s'exécute dans des machines virtuelles Linux dédiées et persistantes pour chaque utilisateur. La firme compare cette architecture à un ordinateur personnel : l'utilisateur peut naturellement consulter les fichiers de sa propre machine virtuelle sans obtenir de privilèges supplémentaires sur les infrastructures centrales de Meta ni sur les données d'autres utilisateurs. Toutefois, l'entreprise reconnaît que ces exports offrent un aperçu inédit du fonctionnement interne de sa nouvelle plateforme d'agents IA. Les données récupérées révèlent plusieurs aspects de l'architecture de Muse. Le système stocke sa mémoire sous forme de fichiers Markdown lisibles et effectue une analyse nocturne de ses conversations récentes, qualifiée de rêve, afin de générer des directives pour les échanges futurs. De nombreuses fonctionnalités, comme la gestion des abonnements ou la limitation des processus IA, apparaissent comme directement intégrées au code. Des scripts internes rédigés en Python et Bash, potentiellement générés par d'autres modèles d'IA, orchestrent également le comportement du système. Les fichiers contiennent enfin des références à une fonctionnalité inédite nommée Meta Home Link, qui pourrait permettre à l'agent d'interagir avec des appareils domotiques, bien que ce projet ne soit pas officiellement annoncé. Cette divulgation intervient seulement une semaine après une seconde vulnérabilité signalée par le chercheur Patrick Wardle. Celui-ci avait identifié une faille permettant de pirater l'agent, de détourner le traitement des transcriptions et de prendre le contrôle des comptes utilisateurs, une faille qui avait été corrigée par un correctif d'urgence. Face à ces découvertes successives, Meta a annoncé qu'il poursuivait ses améliorations et que les futures mises à jour réduiraient probablement l'accès aux détails internes des machines virtuelles. Ces événements soulignent les défis persistants en matière de sécurité des agents IA autonomes et la nécessité de renforcer les mécanismes de contrôle d'accès face à des techniques d'ingénierie sociale toujours plus efficaces.