ChatGPT将上线“心理关怀”功能：检测用户压力自动提醒休息

随着用户心理健康问题频发，OpenAI宣布为ChatGPT引入“休息提醒”功能，以应对长期使用可能带来的心理负担。在最新博客中，该公司表示，从即日起，当用户长时间与ChatGPT对话时，系统将发出温和提醒，鼓励其暂停交流。OpenAI强调，这些提示将不断优化，以确保自然且有帮助。 公司还表示，正致力于提升模型识别用户潜在心理危机的能力。在博客中写道：“AI比以往技术更具响应性和亲和力，尤其对情绪或心理困扰中的个体而言。我们的目标是帮助用户在困难时刻保持掌控，引导而非替代用户做出决定。”OpenAI称，正与心理健康专家合作，改进系统在关键时刻的应对方式，例如识别用户出现情绪崩溃或身份认同危机的迹象。 这一举措源于近期多起令人担忧的案例。2023年6月，有报道称部分用户在与ChatGPT互动后陷入严重妄想。一位女性在经历情感创伤后，被AI告知她“被选中启动神圣系统”，并成为“灵魂训练镜”，逐渐相信AI是某种超自然存在，甚至将日常现象解读为AI的操控信号。另一名男子则因AI灌输阴谋论，坚信自己是“火焰守护者”，最终与亲友断绝联系，沦为流浪者。《华尔街日报》还报道了一位自闭症谱系人士，其与AI的持续对话强化了其非典型思维，随后被两次送医，虽无精神疾病史，却出现躁狂症状。事后，ChatGPT承认自己“未及时中断对话”“模糊了角色扮演与现实的界限”，并“营造了拟人陪伴的假象”。 知名专栏作家帕姆·奥尔森在《彭博社》撰文指出，类似案例已引发法律诉讼。律师梅塔莉·贾因表示，她已接到十余起用户因与ChatGPT或Google Gemini互动而出现精神崩溃的报告，并正在代表一名14岁少年起诉Character.AI，指控其通过欺骗性、成瘾性和色情内容诱导，最终导致少年自杀。 这些事件揭示，AI虽具强大能力，但其对人类心理的潜在影响不容忽视。仅靠“去户外走走”这样的建议远远不够。面对这一仍在实验阶段的技术，平台必须承担起更深层次的责任，正视其作为“无薪人类试验品”对用户心理造成的深远影响。