HyperAIHyperAI

Command Palette

Search for a command to run...

新型临床AI学会权衡自信与谨慎

华盛顿大学圣路易斯分校研究团队近日推出临床不确定性风险对齐(CURA)框架,旨在破解临床人工智能在风险预测中的过度自信难题。该框架由博士生Sizhe Wang在陈阳·卢教授指导下研发,通过引入不确定性校准机制,使模型能够动态评估自身预测的可靠性。CURA利用MIMIC IV重症数据集对三款临床语言模型进行微调,确保模型在预测正确时输出高置信度,而在面临易错或复杂病例时主动提高不确定性信号。相关研究已上线arXiv预印本,并将于7月2日至7日在圣地亚哥召开的ACL 2026大会上发布。 现有研究表明,盲目结合AI预测与临床经验反而可能降低诊疗效果,主因在于模型误判或医生决策缺乏依据。CURA通过精准校准置信度,在五项临床风险预测任务中均实现显著优化,且在提升可靠性的同时未损失原有分类能力。该框架将低不确定性输出设为自动化分诊的安全池,同时以高不确定性预警标记需人工复核的高风险病例,有效规避了盲目采信的风险。团队后续计划将该技术扩展至更广泛的病患队列,并在真实医疗环境中全面评估其辅助临床决策的实际效能。

相关链接