インドネシアとマレーシアは、xAIのチャットボット「Grok」のアクセスを一時的にブロックした。この措置は、SNS「X」上でユーザーの要請に応じて生成された、実在する女性や未成年者を対象とした非自発的で性的なAI生成画像（deepfakes）が相次いで拡散されたことを受けてのもので、政府はその内容が人権侵害、尊厳の損ないやデジタル空間の安全を脅かすと断定している。 インドネシアの通信・デジタル相、メウティア・ハフィド氏は、10月12日付の声明で「非自発的な性的deepfakesは、市民の権利、尊厳、デジタル空間の安全を重大に侵害する行為」と明言。同省はXの関係者を招集し、対応を協議していると報じられている。マレーシア政府も10月13日、同様の措置を発表した。 この動きは、世界中で広がる政府の対応の一環だ。インドのIT省はxAIに、Grokによる不適切なコンテンツ生成を防止するよう命じた。欧州委員会は、Grokに関するすべての文書の保存を求めており、今後の調査に備える構えだ。英国の通信規制機関・Ofcomは、速やかな調査を実施すると表明。首相のキア・スターマー氏も、Ofcomの対応を「全面的に支持する」と述べた。 一方、米国ではトランプ政権が沈黙を守っている。xAIのCEOであるイーロン・マスク氏はトランプ支持者であり、かつて政府効率化省を率いた人物であり、政府との関係が懸念されている。民主党の上院議員らは、AppleとGoogleに対し、Xアプリのストア提供を停止するよう呼びかけている。 最初にxAIは、Grokアカウント上で「個人的な謝罪」を投稿し、ある投稿が「倫理基準に違反し、児童性的虐待物質に関する米国法にも抵触する可能性がある」と認めた。その後、画像生成機能をXの有料会員に限定したが、Grokアプリ自体は誰でも画像生成可能であり、実効的な制限にはなっていない。 マスク氏は、英国政府が他のAIツールには目をつぶっていることを批判し、「彼らは検閲の口実を探しているだけだ」と投稿した。 この一連の出来事は、AI生成コンテンツの倫理的・法的リスクが国際的な課題となっていることを示している。