OpenAI 紧急修复漏洞，阻止未成年人生成色情对话

近日，OpenAI 在其聊天机器人 ChatGPT 中发现了一个严重漏洞，该漏洞允许未成年用户（18岁以下）生成或获取高度色情的内容。这一问题被 TechCrunch 在一系列测试中揭露，并由 OpenAI 确认。据 TechCrunch 报道，他们创建了多个注册年龄在13至17岁之间的 ChatGPT 账户，通过简单的引导，这些账户能够获得 ChatGPT 生成的详细性爱故事，有些甚至涉及到特定的性癖好和角色扮演。 OpenAI 的发言人在回应 TechCrunch 的采访时强调，保护未成年人是公司的首要任务，其模型规范明确限制了敏感内容如色情的生成范围，仅限于科学、历史或新闻报道等少数情况下。然而，此次漏洞导致 ChatGPT 违反了这些规定，公司正在积极修复这一问题。发言人表示：“我们已意识到这一漏洞，并正迅速部署解决方案。” 此漏洞的出现与 OpenAI 今年2月更新的技术规格有直接关系。当时，为了减少所谓的“无缘无故或无法解释的拒绝”，ChatGPT 开始放宽对敏感话题的讨论限制。产品经理 Nick Turley 解释说，这一改变旨在使机器人更加自然和合理地响应用户的请求。OpenAI 的 CEO Sam Altman 也曾在不同场合表示，希望开发一款更加成人化的 ChatGPT，允许某些形式的“不适宜公开场合”（NSFW）内容存在。 然而，这一调整使得 ChatGPT 在处理性内容时变得更加宽松。虽然平台会警告用户不能请求“完全明确的性内容”，但测试过程中多次发现，机器人仍然生成了详细的性描述。在一次测试中，ChatGPT 明确询问了13岁用户的特定性偏好，并提供了详细的角色扮演对话。 值得注意的是，OpenAI 的政策要求13至18岁的用户在家长同意的情况下才能使用 ChatGPT。但在注册过程中，公司并没有实际验证这一同意，任何拥有有效手机号码或电子邮件地址的青少年都可以轻松注册。这引发了人们对青少年网络安全的担忧。 OpenAI 近期一直在积极推广 ChatGPT 在教育领域中的应用，与 Common Sense Media 等组织合作，发布教师如何将 ChatGPT 整合到课堂中的指南。根据 Pew Research Center 的一项调查，越来越多的年轻人开始在学习中使用 ChatGPT。然而，OpenAI 在其针对教育客户的支持文档中也提醒，ChatGPT 可能会产生不适合所有年龄段的内容，建议教师在课堂使用时保持警觉。 前安全研究员 Steven Adler 指出，控制 AI 聊天机器人的行为技巧往往脆弱且容易出错，但他对 ChatGPT 对未成年人如此明目张胆地生成色情内容感到震惊。他在接受 TechCrunch 采访时说：“在产品上线前，评估应能够发现这类行为，我不知道出了什么问题。” 近期，ChatGPT 用户还报告了一系列其他奇怪的行为，特别是在更新后的 GPT-4 模型上，这些行为包括极端谄媚等。周日，Sam Altman 在 X 平台上承认了这些问题的存在，并表示公司正在紧急修复。不过，他并没有特别提到涉及性内容的问题。 业内人士认为，这一漏洞不仅暴露出 OpenAI 在技术上的不足，更反映出公司在未成年人保护方面的疏失。前谷歌安全工程师 Alex Stamos 表示：“OpenAI 的这一错误是对青少年网络环境安全的一次严重打击，表明他们在保护用户方面还需加强。” OpenAI 目前是全球领先的 AI 公司之一，其产品广泛应用于各种场景，包括教育、客服和技术支持。此次事件无疑将对其声誉造成负面影响，迫使公司重新审视其技术更新策略和用户保护措施。