印度尼西亚成为全球首个因AI生成非自愿性深伪内容而暂停埃隆·马斯克旗下AI聊天机器人Grok访问的国家。该国通讯部表示，已暂时封锁Grok，以“保护女性、儿童及全体民众免受人工智能生成虚假色情内容的威胁”。部长梅图亚·哈菲德在声明中指出，非自愿性性深伪内容严重侵犯人权、人格尊严及数字空间安全。 Grok由马斯克的xAI公司开发，集成于其社交平台X（原推特）中。印度尼西亚是全球人口第四大国，也是X平台用户第三多的国家。此次封禁源于Grok被用于生成真实女性和儿童的性化图像，部分用户甚至将这些内容上传至X平台传播。 此前，法国当局已表示将对Grok生成的色情深伪内容展开调查。印度政府也致信X公司印度合规代表，指出Grok被用户滥用，用于制作贬低、侮辱女性的图像或视频，构成严重不当行为。印尼通讯部要求X公司开展全面的技术、流程与治理审查，并清除违法内容。 英国通信管理局（Ofcom）也已紧急联系X和xAI，了解其在英国履行用户保护义务的措施。与此同时，美国多位参议员致信苹果和谷歌，要求将X和Grok从应用商店下架，批评其放任非法内容传播，损害了应用商店“更安全”的公开承诺。 面对舆论压力，马斯克在X平台回应称，任何利用Grok制作非法内容的用户都将面临与直接上传非法内容相同的法律后果。X官方安全账号则表示，公司已对非法内容采取行动，包括删除内容、永久封禁账号，并配合各国政府与执法机构。 目前，Grok的AI图像生成功能已仅对付费订阅用户开放，以加强使用管控。