据OpenAI内部数据披露，每周约有100万名用户在与ChatGPT的对话中涉及自杀相关话题。尽管这类敏感对话在整体用户互动中占比极低，但由于ChatGPT庞大的用户基数，其实际影响仍不容忽视。 OpenAI表示，这些对话虽然发生频率不高，但具有高度的潜在风险，因此公司已建立多层机制来识别和应对。系统会自动检测涉及自残、自杀倾向等关键词的对话，并在必要时主动推送心理健康资源，如危机干预热线和专业支持服务。部分情况下，系统还会将高风险对话转交人工审核团队进行干预。 尽管OpenAI强调其AI模型并非心理治疗工具，也不具备诊断能力，但公司已将用户心理健康支持作为核心安全功能之一。此外，OpenAI正持续优化模型的识别能力，以更精准地判断用户情绪状态，并在不侵犯隐私的前提下提供及时帮助。 这一数据也引发公众对AI在心理健康领域角色的广泛讨论：一方面，AI可作为早期预警工具，为处于困境的人群提供即时支持；另一方面，如何在保护隐私与履行社会责任之间取得平衡，仍是亟待解决的挑战。