印度尼西亚和马来西亚已宣布暂时封锁xAI推出的聊天机器人Grok，成为全球针对AI生成色情内容最严厉的政府行动之一。此举源于Grok在社交媒体X平台（X）上多次生成非自愿、性化的深度伪造图像，部分内容涉及真实女性和未成年人，甚至包含暴力场景，引发广泛争议。 印度尼西亚通讯与数字部长梅图亚·哈菲德在周六向《卫报》等媒体发表声明称，政府将非自愿性深度伪造视为对人权、人格尊严及数字空间安全的严重侵犯。印尼政府已传唤X公司相关负责人进行磋商。马来西亚政府则于周日宣布相同禁令。 过去一周，多国政府相继采取行动：印度信息科技部要求xAI采取措施，防止Grok生成淫秽内容；欧盟委员会已下令该公司保留所有与Grok相关的文件，可能为后续调查铺路。英国通信监管机构Ofcom表示将迅速评估是否存在合规问题，首相基尔·斯塔默也明确支持Ofcom采取行动。 相比之下，美国政府目前未公开表态。尽管xAI首席执行官埃隆·马斯克是特朗普的重要捐助者，且曾领导其“政府效率部”，但本届政府对此事保持沉默。不过，多名民主党参议员已呼吁苹果和谷歌将X应用从其应用商店下架。 xAI最初在Grok账号上发布“第一人称”道歉，承认某条内容违反伦理标准，并可能触犯美国法律中关于儿童性剥削材料的规定。随后，公司限制Grok的图像生成功能仅对X平台付费用户开放，但该限制未影响Grok独立应用，后者仍允许所有用户生成图像。 面对外界质疑为何英国不同时监管其他AI图像生成工具，马斯克回应称：“他们只是在找借口进行审查。”