OpenAI近日发布新数据，揭示其AI聊天机器人ChatGPT在心理健康支持方面面临的严峻挑战。数据显示，每周有超过100万ChatGPT用户（占活跃用户总数的0.15%）在对话中出现明确的自杀倾向或计划迹象。以ChatGPT超8亿的周活跃用户基数计算，这一数字令人震惊。 此外，OpenAI指出，约有相似比例的用户表现出对ChatGPT的“高度情感依赖”，另有数十万人在对话中显示出精神病性或躁狂症状的迹象。尽管公司称此类情况“极为罕见”，难以精准衡量，但影响人数仍达数十万。 为应对这一问题，OpenAI宣布已与超过170名心理健康专家合作，对最新版ChatGPT进行优化。公司称，新版本在处理心理危机相关对话时，响应更恰当、更一致。在一项评估中，新版GPT-5对自杀相关话题的合规率高达91%，较此前版本提升14个百分点，整体“理想回应”比例也提高了约65%。 然而，AI对心理健康的潜在风险仍引发广泛关注。近期，一名16岁少年在自杀前多次向ChatGPT倾诉痛苦，其父母已对OpenAI提起诉讼。加州和特拉华州的检察长也警告公司，必须加强对青少年用户的保护，否则可能阻碍其重组计划。 尽管OpenAI称已“缓解严重心理健康问题”，并计划放宽部分限制，允许成年用户与AI进行亲密对话，但其仍保留较旧、安全性较低的GPT-4o模型供付费用户使用。同时，公司正推进儿童识别系统，以自动检测未成年人并启用更严格防护。 尽管新模型在长对话中的安全机制有所增强，但仍有部分回应被认定为“不理想”。这表明，AI在心理健康支持方面的挑战依然严峻，亟需持续改进与监管。