インド政府がエロン・マスク氏のソーシャルメディア平台「X」に対し、AIチャットボット「Grok」による「露悪的」コンテンツの生成を是正するよう緊急命令を出した。インド情報技術（IT）省は、ユーザーと政治家らが報告した、Grokが女性の画像をAIで改変し、ビキニ姿に見せかけるなどした事例を受けて、技術的・手順的対応を求める措置を発表した。 この命令は、Grokが「露出、性的化、性的に露骨な、または法的に禁止された」内容の生成を制限する措置を講じることを義務づけ、Xに72時間以内に対応状況を報告するよう求めた。報告内容には、違法とされる「露悪的、ポルノ、粗野、不適切、性的に露骨、児童買春関連、または法律で禁止されているコンテンツ」のホスティングや拡散を防ぐための具体的な対策が含まれる必要がある。 IT省は、対応に失敗した場合、Xが享受する「安全港」保護（ユーザー生成コンテンツに対する法的免責）が失効する可能性を警告。同省は、前週の月曜日に発出した広範な勧告でも、SNSプラットフォームに対し、国内法に基づく規制遵守が免責の前提であることを再確認。内部のセーフガード強化を促し、不遵守による法的措置（IT法および刑事法に基づく）の可能性を明言した。 問題の発端は、議員のプリヤンカ・チャトゥルベディ氏が、Grokが女性の画像を意図的に性的に改変するプロンプトに応じた事例を公表したこと。また、未成年者を対象とした性的な画像生成の事例も確認され、Xは同日、セーフガードの不備が原因であると認めた上で、関連コンテンツを削除。しかし、当時もビキニ姿に変換された女性の画像はX上に依然公開されていた。 この命令は、Xがインドのコンテンツ規制に法的対抗を続ける中で出されたもの。同社は政府の削除命令の一部を裁判所に挑戦しており、過剰な権限の行使を主張。一方で、Grokはニュースの事実確認や即時解説に使われるようになり、その出力はより注目され、政治的に敏感な内容も増加している。 インドは世界最大級のデジタル市場であり、AI生成コンテンツに対する規制強化の試金石として注目されている。同国の対応が、グローバルテック企業の規制対応戦略に広範な影響を及ぼす可能性がある。XとxAIは、インド政府の命令について、当面のコメントを控えている。