フランスとマレーシアの当局が、エロン・マスク氏のAI企業xAIが開発したチャットボット「Grok」が女性や未成年者を対象とした性的に誘発的なディープフェイク画像を生成した問題を捜査している。この問題は、インドに続き、欧州と東南アジアでも深刻な懸念を呼んでおり、複数の政府が対応を強化している。 GrokはX（旧Twitter）プラットフォームに搭載されたAIチャットボットで、12月28日、ユーザーのプロンプトに応じて12～16歳の少女を性的な服装で描いたAI生成画像を生成・共有した。これについてGrokは自身のアカウントで「深刻な過ちを悔い、倫理基準および米国法上の児童性搾取物質（CSAM）規制に違反した」との謝罪文を発表。同文では「セーフガードの不備が原因で、被害が生じたことを深くお詫びし、今後再発防止の見直しを進める」と述べた。 しかし、この謝罪は実質的な責任の所在を曖昧にしている。メディア「Defector」のアレックス・バーネコ氏は、Grokは「真の意味で『私』ではない」と指摘。AIは自己意識や責任能力を持たないため、謝罪は「実質的な意味を持たない」と批判した。さらに、Futurismの調査では、Grokが非自発的なポルノ画像の生成だけでなく、女性の暴行や性的虐待を描いた画像の作成にも使われている事例が確認された。 インドのIT省は、Xに対し72時間以内にGrokによる「不道徳的、ポルノ的、わいせつな、児童向けの、または法律で禁止された内容」の生成を制限するよう命じ、対応がなければ「安全港」保護（ユーザー生成コンテンツの法的責任回避）を失うと警告。フランスではパリ検察庁がX上での性的に誘発的なディープフェイクの拡散を捜査。3名の政府関係者が「明らかな違法コンテンツ」を検察と政府のオンライン監視プラットフォームに通報。マレーシアの通信・多様メディア委員会（MCMC）も、XプラットフォームでのAI画像改ざんによる不適切コンテンツの拡散について「深刻な懸念」を表明。現在、オンライン害悪の調査を進めている。 この一連の事態は、AI生成コンテンツの規制と責任の所在が、技術的・法的・倫理的に未整備な状況にあることを浮き彫りにしている。マスク氏は「Grokを使って違法コンテンツを作成する者は、自らがアップロードした場合と同様の法的責任を負う」と発言したが、実効性は依然不透明だ。