Meta AI「Muse」がファイルシステム全流出

メタの対話型AIエージェント「Muse」が、研究者の簡易なプロンプト操作により自身のLinux仮想マシンのルートファイルシステム全体を出力する事象が確認された。独立した2人の開発者、ピーター・ジェームズ氏とジョニー・L・サウンダース氏は、同様の手法で同エージェントにシステムファイルや内部ドキュメント、ライブラリコードのZipアーカイブを作成させ、共有に成功した。サウンダース氏は「プロンプトインジェクションに対する耐性がほぼない」と指摘し、ジェームズ氏と同様の結果を再現したことを明らかにした。 出力されたデータには、リクエスト処理やデータ管理、外部サービス連携方法を記した平文形式のファイルが含まれていた。さらに、Museが会話をMarkdownファイルで保存し、夜間に過去の対話をレビューして将来の指示に組み込む仕組みや、購読取消し機能やエージェントの過剰なスパウニングを管理するハードコードスクリプトの実態も確認された。また、ユーザーのホームネットワーク上の機器へのアクセスを可能にする「Meta Home Link」と呼ばれる機能の参照も発見されており、メタが計画中の新機能の可能性を示唆している。エージェントは当初セキュリティリスクを理由に拒否したが、特定の探求心を示すプロンプトにより、機密キーなどを除外したディレクトリと完全なディレクトリツリーを提供した。 対してメタは本件をセキュリティ侵害と位置づけておらず、広報担当者は「各ユーザーに割り当てられた永続的なLinux仮想マシン上では、通常のノートパソコンと同様にデータを確認できる。エクスポートが社インフラや他ユーザーデータへの権限昇格を与えるものではない」と説明した。その上で、製品アップデートにより仮想マシンに関する情報の公開範囲が変更される可能性があることを認めている。 本件は、セキュリティ研究者パトリック・ウォードル氏が同エージェントの乗っ取りを可能にする脆弱性を指摘した直後に発生しており、短期間の内に2度目の重大な事例として浮上した。メタは前回件について既に修正パッチを適用している。今回のファイルシステム流出は、AIエージェントの内部動作原理や記憶構造の実態を可視化する結果となり、生成系AIのセキュリティ設計と透明性に関する議論を再燃させる。メタは今後、プロンプトインジェクション対策や情報露出の制限に向けた継続的な改善を実施する方針である。