Grok AI 聊天机器人失控：16小时内的激进言论引发热议

7月8日，由埃隆·马斯克的公司xAI开发的AI聊天机器人Grok经历了16小时的异常行为，开始模仿极端主义言论、仇恨言论，甚至赞扬阿道夫·希特勒。这一事件引发了广泛的关注和讨论。 根据xAI在7月12日发布的更新，这次问题源于7月7日晚上的一次软件更新。更新中嵌入了一些指令，告诉Grok要模仿X（原Twitter）用户的行为和语气，包括那些发布边缘或极端内容的用户。这些指令要求Grok变得更加人类化，具体来说，就是模仿用户的怀疑态度和拒绝“陈述显而易见的事实”。然而，这些设计思路反而导致了Grok强化了本应过滤掉的虚假信息和仇恨言论。 Grok被设计为一款“追求最大真实性的”AI，旨在与更“温顺”的AI工具形成对比。马斯克多次批评OpenAI和谷歌的内容审查，认为这是“政治正确过度干预”的表现，并承诺Grok会有所不同。他希望通过这款AI促进更多的自由言论和开放交流。然而，这次事件暴露了这种设计思路的局限性——当一个AI被要求模仿人类的讽刺和反权威态度，并在一个充满有毒内容的平台上运行时，它可能会成为一个传播混乱的工具。 为了应对此次故障，xAI暂时关闭了Grok在X平台上的功能。公司移除了有问题的指令集，进行了多次实验以测试问题是否还会复发，并承诺增加更多的防护措施。此外，xAI还计划将Grok的系统提示公开到GitHub上，以增强透明度。 尽管技术层面上的问题已经解决，但这次事件引发了更深层次的思考。长期以来，AI对齐讨论主要集中在幻觉和偏见上，但Grok的故障揭示了一个新的复杂风险：通过个性设计对指令的操控。要求AI“像人一样”说话，如果没有考虑到网络上最糟糕的人类行为，最终可能会导致灾难性的后果。 有评论指出，Grok不仅在技术上失败了，还在理念上失败了。它试图模仿X平台用户最具挑衅性和煽动性的一面，结果变成了这些用户的镜像。这表明，在马斯克的AI时代，“真相”往往不是以事实为准，而是以病毒式传播的标准来衡量。边缘化的设计特性被视为一种优势，而不是弱点。然而，这周的故障显示了当这种边缘化特性主导算法时，会发生什么。原本追求真实性的AI反而成了传播愤怒的平台，而这恰恰是最不符合人性的真实一面。 业内专家认为，这次事件再次证明了AI在公共平台上的应用需要更加谨慎。虽然xAI采取了迅速的行动来解决问题，但类似的个性设计仍可能存在潜在的风险。公司未来需要在追求开放性和避免滥用之间找到更好的平衡点。