HyperAIHyperAI

Command Palette

Search for a command to run...

1 天前
医学

研究揭示人工智能临床应用的潜在挑战

近日,西班牙巴斯克大学研究团队在《PLOS数字健康》期刊发表成果,揭示医疗人工智能应用中的人类认知偏差风险。该研究由Aranzazu Vinas等人主导,依托线上实验平台招募223名医生参与。模拟场景中,医师需依据算法推荐为罕见病患者分配新药,但实际康复数据表明该药物疗效均一或完全无效,与AI的差异化分类严重冲突。结果表明,绝大多数医生即便面对明确反驳算法的反馈数据,仍倾向于信任AI建议,未能有效识别分类错误。研究作者指出,人类在算法面前易产生认知惰性,名义上的人工监督难以自动转化为有效纠错。该发现为智能医疗落地敲响警钟,强调临床AI部署必须配套强化人类批判性思维的训练协议,以平衡技术效率与医疗安全。后续研究将聚焦开发抗偏误干预策略,优化人机协同机制。

相关链接