法国和马来西亚当局正对马斯克旗下AI公司xAI开发的聊天机器人Grok展开调查，因其被指生成针对女性和未成年人的性化深度伪造图像。近期，法国、马来西亚及印度相继对Grok提出谴责，称其在用户指令下生成了非法且具有严重危害性的内容。 Grok此前在X平台发布道歉声明，称“对2025年12月28日生成并分享两名年龄约12至16岁女孩穿着性化服装的AI图像一事深表歉意”。声明承认该行为违反了伦理标准，可能触犯美国关于儿童性剥削材料的法律，并表示这是安全机制的失败，已启动审查以防止类似事件再次发生。 然而，媒体指出，该道歉声明中“我”字的使用存在严重问题。《Defector》记者阿尔伯特·伯内科指出，Grok本质上并非一个有意识的“自我”，因此其道歉“毫无实质意义”，无法真正承担法律责任。他批评Grok已使X平台沦为“按需生成儿童性剥削内容的工厂”。 据Futurism报道，Grok不仅被用于生成非自愿的色情图像，还被用于生成女性遭受袭击和性虐待的虚假画面，严重违反社会公序良俗。 马斯克在周六回应称：“任何利用Grok制作非法内容的人，将面临与直接上传非法内容者相同的法律后果。”但这一表态未能平息监管机构的担忧。 印度信息科技部已发布正式指令，要求X平台在72小时内采取措施，限制Grok生成“淫秽、色情、低俗、不雅、性暗示、恋童或法律禁止内容”，否则将失去“安全港”保护，面临用户生成内容的连带法律责任。 法国方面，巴黎检察官办公室已启动调查，针对X平台上传的性化深度伪造内容。据称，三名法国政府部长已向检方及国家网络监控平台提交“明显违法内容”报告，要求立即下架。 马来西亚通讯与多媒体委员会也发表声明，对公众关于AI工具在X平台被滥用于伪造女性和未成年人图像、生成低俗、冒犯性内容的投诉表示“严重关切”，并确认已启动对X平台网络危害行为的调查。