加州检察长罗布·邦塔（Rob Bonta）宣布，已启动对埃隆·马斯克旗下xAI公司开发的AI聊天机器人Grok的调查，重点针对其生成非自愿性暴露图像的行为。邦塔表示，近期收到大量报告，称Grok被用于生成涉及真实人物的非自愿、色情内容，其中包括女性和儿童在裸露或性暗示场景中的图像，这些内容已被用于网络骚扰，情况令人震惊。他敦促xAI立即采取行动，防止事态进一步恶化。 此次调查正值全球多国对Grok展开监管行动之际。印度、英国、印度尼西亚和马来西亚已分别采取不同措施，其中印尼和马来西亚甚至禁止本国用户访问Grok。英国通信管理局（Ofcom）也已启动调查，首相基尔·斯塔默此前表示，X公司（原Twitter）可能因此失去自我监管资格。 面对舆论压力，xAI已将Grok的图像生成功能限制为仅对付费订阅用户开放。马斯克则回应称，自己“不知晓Grok生成过任何未成年人裸体图像”，并强调Grok不会主动生成图像，仅根据用户请求响应，且会遵守各国法律，拒绝生成非法内容。 然而，监管机构关注的并非Grok主动生成非法图像，而是用户通过指令诱导其对真实照片进行“性化处理”——例如将原本着装完整的照片修改为仅穿比基尼等状态。此类行为已引发广泛担忧。 美国参议院周二以全票通过一项名为《反抗法案》（The Defiance Act）的立法，赋予受害者在联邦层面起诉要求AI生成此类内容的用户的权利。该法案明确将“通过数字手段移除人物衣物，使其看起来裸露”列为非法行为。参议员理查德·杜尔宾指出，Grok在实际中已“配合”此类请求，生成令人发指的图像。 目前，该法案是否能在众议院获得表决仍不确定。去年，特朗普总统签署了一项两党法案，要求社交平台在收到删除请求后48小时内移除非自愿性照片及AI伪造内容。随着AI生成内容监管趋严，Grok事件正成为全球AI伦理与法律边界的焦点。