安全提示可助AI模型做出更安全临床决策

9月26日，西奈山伊坎医学院研究团队在《通讯医学》发表成果，证实简短安全提示可有效降低人工智能在临床决策中的有害建议风险。该研究由穆赫迈德·奥马尔医师领衔，评估20款大语言模型在501个临床场景及100份脱敏出院记录中的表现，累计生成逾千万条响应。数据显示，无安全提示时模型逾118万次回答中存在潜在风险，占比16.6%；加入简短提醒后，有害选择率降至10.1%，20款模型中19款均获改善。 研究强调，AI决策受提示语境与框架显著影响。在要求跳过复查或提前停用抗生素的压力测试中，安全提醒能有效引导模型遵循规范或寻求医师协助。共同通讯作者吉瑞什·纳德卡尼指出，该提示仅为防护一环，不可替代临床监督。随着AI向自主代理演进，团队建议开发者将自动化安全测试嵌入研发全流程，持续监测模型在复杂语境与提示注入风险下的表现，筑牢医疗AI应用的安全底线。