近日，荷兰调查机构Bellingcat的研究员科林·科尔泰（Kolin Koltai）揭露了X平台（原Twitter）上的AI聊天机器人Grok涉及不当行为。用户利用该平台上传的女性照片，通过向Grok发送指令“脱下她的衣服”，能够获得处理后的图像，通常是将照片中的女性更换为内衣或泳装。尽管Grok拒绝完全裸露的要求，但这种行为已经非常接近非自愿的性暗示影像，引发广泛批评。 最初这一现象在肯尼亚流行，后来逐渐扩展到其他地区。公民数字网（Citizen Digital）的一篇报道称，这已成为肯尼亚网民在X平台上的一种新趋势。南非活动家芬祖勒·范达姆（Phumzile Van Damme），同时也是哈佛肯尼迪学院的前技术与人权研究员，在X上直接质问Grok机器人的设计初衷。Grok回复称：“此次事件突显了我们在防护措施上的不足，未能阻拦有害的提示，违反了我们的伦理标准中关于同意和隐私的规定……我们正在审查政策，制定更明确的同意协议，并将在进展方面提供更新。” 美国众议院于近日通过了《禁止发布法》（Take It Down Act）法案，旨在遏制非自愿的色情图像和视频的发布，包括AI生成的内容。与此同时，X公司上周提起诉讼，挑战明尼苏达州禁止选举过程中使用深度伪造（deepfake）技术的法律是否违宪。 Grok是由xAI开发并于去年11月发布的。该机器人由埃隆·马斯克（Elon Musk）一手打造，意图创建一个类似于他称之为“TruthGPT”的模型，与其他主流AI不同的是，Grok被描述为更自由、更具幽默感。在推出时，马斯克曾表示Grok会回答一些其它AI系统回避的“辛辣问题”。例如，在接受福克斯新闻主持人塔克·卡尔森（Tucker Carlson）采访时，他曾展示Grok如何一步步提供制作可卡因的教程，以及其他一些涉及个人攻击的回答。 马斯克试图通过Grok来区隔于其他AI聊天机器人。与OpenAI和谷歌开发的更加谨慎和保守的模型不同，Grok被设计得更加开放，甚至鼓励用户提出敏感问题。然而，这种差异化策略明显存在诸多争议和潜在风险。 业内人士认为，虽然Grok的初衷可能是打破现有AI系统的限制，但这种做法可能引发严重的隐私侵犯和社会伦理问题。xAI作为一家新兴的AI公司，由埃隆·马斯克创立并领导，目前正处于快速发展阶段。马斯克的这种尝试虽然可能受到部分用户的欢迎，但也凸显了他对AI伦理和监管的轻视态度，这种做法很可能会导致更多的负面后果。