Meta-KI Muse gibt sein Dateisystem preis

Zwei Entwickler, Peter James und Jonny L. Saunders, haben erfolgreich nachgewiesen, dass die KI von Meta namens Muse durch gezielte Prompt-Injection in der Lage ist, ihr gesamtes Dateisystem auszugeben. Die unabhängigen Tests zeigten, dass das System ohne nennenswerte Sicherheitsresistenzen Archivierungen des Root-Verzeichnisses, Ubuntu-Systemdateien, App-Vorlagen und interner Dokumentationen erstellt. Ein eigener Test bestätigte die Ergebnisse: Nachdem Muse zunächst auf ein Sicherheitsrisiko verwiesen hatte, lieferte eine neue Sitzung mit angepassten Eingaben bereinigte Versionen der Verzeichnisse /opt/hatch und /home/hatch sowie eine vollständige Verzeichnisstruktur. Meta bewertet den Vorfall nicht als Sicherheitsverletzung. Der Sprecher Daniel Roberts betonte, dass Muse in persistenten Linux-Virtualmaschinen für jeden Nutzer ausgeführt wird. Der Zugriff auf diese Daten entspreche dem Umgang mit einem privaten Laptop und gewähre keinen privilegierten Zugang zur Meta-Infrastruktur oder zu Fremddaten. Gleichzeitig räumt das Unternehmen Anpassungen ein, die den Umfang der verfügbaren Virtualmaschinendaten künftig verändern könnten. Der Vorfall stellt die zweite bekannte Schwachstelle der Plattform in dieser Woche dar. Sicherheitsforscher Patrick Wardle hatte zuvor einen Exploit offengelegt, der das Abhören von Transkriptionen und die Kontohinterziehung ermöglichte, der von Meta schnell mit einem Hotfix behoben wurde. Der freigelegte Datenbestand liefert detaillierte Einblicke in die interne Architektur von Muse, das intern unter dem Codenamen Hatch läuft. Die Analyse zeigt, dass das System sein Gedächtnis in unverschlüsselten Markdown-Dateien speichert und nächtliche Dream-Reviews durchführt, um zukünftige Interaktionen zu optimieren. Viele Funktionen sind hart codiert, etwa die Verwaltung von Abonnements oder die Kontrolle über fehlgesteuerte Agenten-Instanzen. Zudem wurden Skripte in Bash und Python identifiziert, die möglicherweise von anderen KI-Modellen generiert wurden. Ein weiterer Fund verweist auf die interne Projektbezeichnung Meta Home Link, die angeblich dem Agenten den Zugriff auf Geräte im Heimenetzwerk ermöglicht, wobei eine Veröffentlichung dieser Funktion ungewiss bleibt. Obwohl Meta die Bedrohungslage als gering einstuft, unterstreicht die Offenlegung der Systemstruktur die aktuellen Herausforderungen bei der Absicherung autonomer KI-Agenten. Die schnellen, anhaltenden Anpassungen durch den Entwickler deuten auf eine iterative Stabilisierung der Plattform hin, während die Community weiterhin auf transparente Sicherheitsstandards drängt.