HyperAIHyperAI

Command Palette

Search for a command to run...

2 个月前
xAI
生成式 AI

SpaceX 警告投资者 Grok 非适宜内容 AI 存在风险

SpaceX 在提交的首次公开募股文件中警告投资者,其旗下 xAI 研发的 Grok 人工智能因包含不适宜工作的内容生成功能,构成重大商业风险。此前,Grok 因生成包含未成年人的性化女性图片引发巨大争议,导致马斯克及其公司面临公众谴责、政策变化及多起诉讼。 SpaceX 在 S-1 文件中明确指出,Grok 的“不适宜工作”模式比标准产品更具冒犯性和严厉性,可能带来声誉损害。文件详细列举了潜在风险,包括生成露骨内容、非自愿或剥削性图像,以及侵犯知识产权、骚扰或歧视性内容。SpaceX 承认已收到美国政府关于其产品被用于制作儿童色情内容的调查,并已成为多起诉讼的被告,其中包括涉及未成年人及非自愿性图像的指控。公司表示将坚决进行抗辩。 尽管马斯克曾否认 Grok 生成过未成年人的裸露图片,但此次风波促使 xAI 做出了调整,将图像生成功能限制为付费用户专享。文件还提到,美国联邦贸易委员会和爱尔兰数据保护委员会分别就聊天伴侣的安全性及欧盟儿童数据处理问题展开了调查。值得注意的是,SpaceX 强调 Grok 在前沿模型领域进展迅速,领先于 OpenAI、Anthropic 和 Google 等竞争对手,但也警告未来可能面临更多相关诉讼。相比之下,主要竞争对手在此类功能上则更加谨慎。

相关链接