HyperAIHyperAI

Command Palette

Search for a command to run...

研究显示AI聊天机器人易延续特定疾病病耻感

近日,北京大学研究团队在《自然·健康》期刊发表研究指出,大型语言模型在健康相关互动中可能持续传播针对特定疾病的隐性歧视。研究团队以Claude、ChatGPT及DeepSeek等主流模型为对象,设计了51个包含健康信息的短篇故事续写场景,涵盖抑郁症、精神分裂症及艾滋病等病症。测试结果表明,当角色患有疾病时,模型生成负面结局的概率较健康角色高出13至17倍,尽管该歧视程度低于人类受试者,但明确反映出模型仍在复现训练数据中内嵌的人类刻板印象。该发现引发医疗人工智能领域的广泛关注。目前约三分之一美国成年人使用AI聊天机器人获取健康建议,研究警告公众不应过度依赖模型作为替代医生。尽管医学专家指出,此类偏见在业内并非新鲜议题,且大型模型在改善基层医疗可及性方面仍具应用潜力,但单一提示词测试无法完全反映真实长对话场景。作者团队表示,下一步将重点考察多轮交互中偏见是否会累积或自我修正。研究进一步强调,在将生成式人工智能引入健康咨询前,必须建立更严格的偏见监测与干预机制,以确保技术应用的公平性与安全性。

相关链接