HyperAIHyperAI

Command Palette

Search for a command to run...

新一代AI模型在医疗领域仍存种族性别刻板印象

近期,弗林德斯大学医学院公共卫生学院研究团队评估了o3-mini与DeepSeek-R1两款新一代推理大语言模型,发现其在生成临床病例时仍频繁重现种族与性别刻板印象。研究指出,尽管此类模型推理能力显著增强,但在医疗代表性公平性上未见改善。团队共生成三万六千份临床案例,结果显示o3-mini与DeepSeek-R1的种族误报率分别达78%和89%,性别误报率为56%和67%,持平或高于前代GPT-4的67%。模型在结节病、系统性红斑狼疮等疾病中持续过度代表黑人群体,且DeepSeek-R1的推理日志显示其直接依赖疾病与人口的刻板关联,未引用流行病学数据。该成果已发表于互联网医学杂志。研究负责人Michael Sorich教授警告,算法偏见若渗入临床环境,将强化狭隘的人口学假设,进而加剧医疗资源分配与健康结果的不平等。团队强调,模型推理性能的提升并不等同于公平性的同步优化,医疗机构在引入大语言模型时必须建立常态化的偏见监测机制,以保障临床决策的客观性与患者安全。

相关链接