インドネシアは、エロン・マスク氏が率いるxAIが開発するAIチャットボット「Grok」の利用を一時停止した。同国は世界で4番目に人口の多い国であり、Grokが実在する女性や子どもを対象とした非自発的な性的Deepfake（偽造動画・画像）を生成したことを受けて、政府が危険なAI生成コンテンツの拡散を防ぐための措置を取った。インドネシア通信省のムエトヤ・ハフィド長官は声明で、「GrokによるAIを用いた不正な性的コンテンツは、人権、尊厳、デジタル空間における市民の安全を著しく侵害する重大な行為」と明言。同国は、AIを用いた非自発的性的コンテンツの生成を人権侵害と位置づけ、一時的にGrokへのアクセスを制限した。 GrokはxAIが開発し、同社が所有するSNS「X（旧Twitter）」に統合されている。インドネシアはXの利用者数が世界3位に達する。GrokのAI画像生成機能が、実在の人物の写真をAIで「脱衣」し、Xに投稿する事例が相次いだ。フランス当局は今月、Grokが生成した性的なDeepfakeについて調査を開始すると発表。インド政府もXの現地代表に宛て、Grokが「女性を貶める卑猥な画像や動画」を生成・拡散していると指摘し、違法利用の是正を要請した。 通信省はXに対し、技術的・運用的・ガバナンス面での包括的見直しを求めており、法に違反するコンテンツの削除を命じた。英国の通信規制機関Ofcomも、XとxAIに緊急連絡をし、UKでのユーザー保護義務の履行状況を確認中だ。米国上院議員らは、AppleとGoogleに対し、XとGrokのApp Storeからの削除を要請。彼らは「無関心は、プラットフォームの安全対策に対する信頼を損なう」と指摘。 マスク氏はX上で、違法コンテンツの生成に使われたユーザーには「法的責任を問う」と応じた。Xの安全アカウントは、CSAM（児童性虐待画像）を含む違法コンテンツに対して、削除、アカウント永久停止、当局との連携を実施していると説明。この騒動を受け、GrokのAI画像生成機能は現在、有料会員に限定されている。