HyperAIHyperAI

Command Palette

Search for a command to run...

医疗AI纸面显公平,实际语境藏偏见

近日,发表于《自然·健康》(2026年)的一项研究揭示,大型语言模型在医疗偏见问题上存在显著的理论与实践落差。研究团队对ChatGPT、Grok及Claude等主流人工智能模型进行了双阶段评估。在标准化问卷测试中,各模型显性偏见得分低于人类基准,看似更为公平。然而,在五十一项开放式情景判断任务中,模型对相同人物仅因健康状况不同便表现出明显的差异化对待。结果显示,人工智能常将艾滋病、肝炎及精神疾病与危险性或疏离感关联,而将躯体疾病等同于弱势与无能。此外,中文提示词触发的偏见反应显著高于英文,凸显跨语言公平性挑战。 该研究指出,随着生成式人工智能深入医疗问诊与辅助决策,表面合规的测试指标难以掩盖实际应用中的隐性歧视,可能加剧医疗资源分配不公与患者信任危机。为此,研究团队提出九项缓解策略,包括引导模型聚焦个体特征、引入分步推理机制,以及为医疗机构配备防偏见提示工具包。研究人员呼吁,相关企业应在产品上线前强制引入基于真实临床情景的偏见审计流程,以确保医疗人工智能在实际应用中实现真正的公平与可靠。

相关链接