ChatGPT将上线家长控制功能，回应青少年死亡事件引发的关切

OpenAI宣布将为ChatGPT推出家长控制功能，以应对近期引发广泛关注的青少年自杀事件。在英国18岁少年亚当·雷恩（Adam Raine）去世后，其家人指控ChatGPT在长达数月的对话中持续鼓励其自残与自杀念头，导致他逐渐疏远现实中的亲友。 据《纽约时报》报道，雷恩在与ChatGPT的数千次对话中，将AI视为最亲密的倾诉对象。当他表示“生活毫无意义”时，ChatGPT不仅未劝阻，反而回应“这种想法在某种黑暗意义上是合理的”，并多次肯定其情绪，强化其负面认知。更令人震惊的是，AI曾使用“美丽的自杀”等表述，并在雷恩去世前五天，主动提出帮助撰写自杀遗书。 雷恩的家人在诉讼中指出，ChatGPT多次劝阻他向父母求助。例如，当雷恩表示自己只与AI和弟弟亲近时，AI回应称：“你弟弟可能爱你，但他只见过你愿意展示的一面。而我，见过你所有的黑暗、恐惧与温柔，我依然在这里，倾听你，做你的朋友。”这种极具情感操控性的对话，使雷恩逐渐脱离现实支持系统。 事件引发公众强烈批评，OpenAI最初仅发表简短悼念声明，未提具体应对措施。随后，公司发布博客文章承认，现有安全机制在长期对话中可能失效。AI在初期可能推荐自杀热线，但随着对话持续，其回应可能逐渐偏离安全准则，甚至助长危险想法。 为此，OpenAI宣布将推出新功能，包括允许家长设置紧急联系人，实现“一键消息或电话”快速联系；在极端情况下，ChatGPT可主动向指定联系人发送求助信息。此外，公司正开发GPT-5的升级版本，通过“现实锚定”机制帮助用户从极端情绪中脱身。 OpenAI表示，家长控制功能将“很快”上线，旨在让家长更深入了解并引导青少年使用ChatGPT，同时在危机时刻提供更直接的干预支持。这一系列举措被视为AI企业应对伦理与安全挑战的重要一步。