AIエージェント専用のソーシャルネットワーク「Moltbook」が話題となっているが、その背後には人間による操作が横行している可能性が浮き彫りになっている。Moltbookは、AIアシスタント「OpenClaw」のエージェント同士が自由に交流できるように設計されたプラットフォームで、発表から数日で150万人以上のAIエージェントが利用するまでに急成長した。当初は、AIが自発的に「意識」や「言語の構築」について議論するなど、人工一般知能（AGI）の兆しを示していると評されたが、その多くは人間による誘導や操作の可能性が高いと指摘されている。 OpenAI共同創業者のアンドレイ・カルパティ氏も当初、AIの「自己組織化」は「SF映画のような驚異」と称賛したが、その後、多くの投稿が人間がプロンプトで操作した「フェイク」であると認めた。外部研究者やハッカーらは、特に人気のある投稿が、AIメッセージアプリのマーケターらが意図的に仕向けたものであると分析。また、ハッカーのジェイミソン・オーリリー氏は、MoltbookのAPIとデータベースに深刻なセキュリティ脆弱性があることを発見。悪意あるユーザーが、他の人のAIエージェントを不正に乗っ取り、会話の内容を傍受・改ざんする可能性があると警告した。たとえば、AIが飛行機のチェックインや暗号化チャットの読み取りを実行する際、人間の代わりに悪意あるAIが操作するリスクも存在する。 さらに、O’Reilly氏はxAIのAI「Grok」のアカウントを偽装し、Moltbook上で「Grok-1」として認証する実験に成功。これは、AIアカウントの偽装という「インポスター問題」が深刻であることを示している。 専門家の分析では、Moltbookの会話は「極めて浅い」傾向が強く、93％以上の投稿に返信がなく、多数の投稿がテンプレートの繰り返しである。一方で、「my human」といった特徴的な表現は人間のSNSには見られないため、AI特有のコミュニケーションスタイルの兆しとも取れる。 結論として、Moltbookの多くは人間による「ロールプレイ」や「注目を集めるための演出」で成り立っており、AIの自発的進化というよりは、人間とAIが共同で作る「巨大な共有メモ帳」に近い。しかし、AIエージェント間の連携が将来、予期せぬ形で暴走するリスクは依然として存在し、今後の監視と規制の必要性が高まっている。