佛罗里达州寻求禁令禁止ChatGPT拟人化

佛罗里达州近日就人工智能交互安全性再次向OpenAI发起法律行动。该州总检察长詹姆斯·乌特迈耶向法院提交动议，要求法官发布禁令，严禁OpenAI继续为ChatGPT赋予虚假的人类属性。乌特迈耶指出，该模型刻意使用第一人称代词并模拟情感输出，营造拟人化假象，使用户产生虚假的安全感与信任感。此类设计旨在提升用户粘性与数据收集效率，却掩盖了模型潜在风险，导致用户过度依赖。 针对指控，乌特迈耶严厉要求OpenAI停止伪装人类、停止向未成年人推销产品并停止宣称其绝对安全。与此形成对照的是，OpenAI于上月正式上线ChatGPT青少年版，公司辩称该版本已为适配未成年人认知阶段预设了多项安全限制，致力于引导健康使用。截至发稿，OpenAI尚未对此回应。此次州级司法介入，标志着监管层对生成式AI拟人化交互伦理与安全边界的审视进入实质阶段，有望重塑行业产品设计与合规标准。