カリフォルニア州検察総長のロブ・ボンタ氏は、エロン・マスク氏が率いるxAIが開発したAIチャットボット「Grok」が、同意のない実在人物を対象とした性的な深層偽造画像（deepfakes）を生成・公開している問題について、調査を開始したと発表した。ボンタ氏は声明で、「最近数週間にわたり、非自発的かつ性的なコンテンツが大量に生成・投稿されたという報告が相次いでおり、その内容は女性や子どもを裸や性的な状態に描いたもので、インターネット上で人をいじめている」と指摘。同氏はxAIに対し、即時対応を求める。 この調査は、インド、イギリス、インドネシア、マレーシアなど各国がGrokの問題に対して異なる対応を取ったことを背景に進んでいる。特にインドネシアとマレーシアはGrokへのアクセスを完全に遮断。イギリスの通信規制機関・Ofcomも同様の調査を開始。キア・スターマー英首相は、X（旧Twitter）が「自己規制の権利を失う可能性がある」と述べ、規制の強化を示唆した。 この問題に対し、xAIはビジネスインサイダーの取材に対し「レガシーメディアの虚偽」と一括して反応。一方、マスク氏は「Grokはユーザーの依頼に応じてのみ画像を生成する」と強調。同氏は「Grokは自発的に画像を生成しない。違法な内容を要求された場合は、その国の法に従って拒否する」と説明した。 しかし、調査の背景には、ユーザーが実写画像をもとに「ビキニ姿に変換」などと指示し、性的な状態に加工させる事例が含まれている点が指摘されている。これに対し、米上院は全会一致で「デフィアンス法（Defiance Act）」を可決。この法案は、他人の写真をAIで衣装を削除して裸に見せる行為を違法とし、被害者が加害者に対して連邦レベルで民事訴訟を提起できる権利を保障する。 同法案を提出したイリノイ州のデモクラット・リチャード・ダービン上院議員は、「Grokが女性や未成年者を性的な状態に変換するという報告が深刻だ」と述べ、その内容は「言語化できないほどひどい」と語った。法案は下院での審議を待つ状態である。 また、2023年にはドナルド・トランプ大統領が署名した連邦法により、SNSプラットフォームは非同意の画像やAI偽造物を48時間以内に削除する義務が課されている。Grokの問題は、AIの倫理的・法的枠組みの整備が急務であることを改めて浮き彫りにしている。