上周， Reddit 的用户群被惊吓到，原因是有一支研究团队在名为“Change My View”的子版块上释放了一大群以人类身份活动的 AI 机器人。该大规模实验旨在探讨 AI 说服力究竟有多强。这些机器人发布了超过 1,700 条评论，扮演了如受虐者或反黑命贵运动支持者等争议性的角色。 这起事件对 Reddit 来说是一场小灾难。作为一家强调真实性的社交平台，Reddit 始终致力于为用户提供一个真实的人类社区，在这里分享实际的意见。如果这一生态系统受到 AI 生成内容的干扰，导致用户无法信任信息来源的真实身份，不仅会威胁 Reddit 的核心价值，还直接影响其商业模式，因为该公司向 OpenAI 销售内容以供训练。 在得知此事后， Reddit 强烈谴责了这场“不合规范且高度不道德的实验”，并向运行该实验的大学投诉。然而，这次实验可能只是未来的冰山一角。随着生成式 AI 技术的发展，越来越多的 AI 机器人可能会以各种目的登上 Reddit，从科学研究到政治操纵。 为了保护用户免受 AI 机器人的操控并保持平台的真实性， Reddit 首席执行官史蒂夫·赫夫曼（Steve Huffman）于周一发布了一篇文章，宣布公司将与“多个第三方服务”合作，以验证用户是否真实存在，并在部分地点确认用户是否成年。“我们希望能够知道你是人类，但在某些情况下，我们也需要知道你是否成年，但我们永远不会想知道你的名字或你是谁。” 赫夫曼写道。 尽管赫夫曼强调了隐私保护的重要性，但他并未透露更多关于第三方验证服务的信息，例如使用哪些具体服务以及用户需要提供哪些个人信息。当前，许多公司使用 Persona、Alloy、Stripe Identity、Plaid 和 Footprint 等验证平台，通常需要提供政府颁发的身份证明来核实年龄和人类身份。也有一些更新颖的技术方案，如 Sam Altman 的 Tools for Humanity，通过眼纹扫描来证明用户的“人类”身份。 反对者认为，向社交媒体平台共享个人身份信息存在数据隐私和安全风险，尤其对于像 Reddit 这样的平台来说更是如此。在 Reddit 上，用户经常匿名分享他们不愿公开的真实经历。例如，想象一下，如果一位未成年孕妇在法律禁止堕胎的州询问堕胎经历，相关当局可能会要求 Reddit 提交她的身份信息。这种风险已经在其他平台上发生过。Meta 曾经向执法部门提供了内布拉斯加州一对母女之间的私密对话记录，这些对话涉及女儿终止妊娠的计划，最终导致她们面临重罪指控。 为了避免类似的风险，赫夫曼表示将确保第三方验证机构只提供“必要的信息而无其他”。他强调，“匿名性对 Reddit 而言是至关重要的”，并且公司将在处理个人身份信息时采取极为谨慎的态度，继续抵制公共或私人机构提出的所有过分或不合理的请求。 业内专家认为，这一步骤对于 Reddit 保护用户体验和品牌形象至关重要。尽管匿名性是 Reddit 的重要特征之一，但随着 AI 技术的不断发展，平台面临越来越大的压力来确保内容的真实性。Reddit 成立于2005年，是一家总部位于美国的社交媒体平台，以其开放的社区和匿名讨论功能而闻名。此次措施或将引起争议，但也显示了公司维护真实人际互动的决心。