HyperAIHyperAI

Command Palette

Search for a command to run...

研究警示:基于不可靠数据集的AI健康预测模型存风险

近日,发表于《BMC Medicine》的一项研究引发医疗人工智能领域广泛关注。由昆士兰科技大学与澳大利亚卫生服务创新研究中心学者主导的团队指出,两个在Kaggle平台广泛下载的健康预测数据集来源完全无法验证,却已被用于125项同行评议研究。其中三项预测模型已涉足临床实践,一项更被写入医疗器械专利,相关模型被86篇学术综述引用。 研究团队采用国际TRIPOD+AI报告框架评估后,发现该数据集在关键数据溯源指标上得分为零。首席作者Alexander Gibson警告,基于来源不明数据构建的预测模型绝不应进入临床决策,其输出结果极可能误导医生并损害患者安全。目前已有七篇使用这些数据集的论文因数据不可靠被撤稿,该发现亦被纳入公开科学诚信指南更新库。 针对这一隐患,研究团队呼吁学术期刊、基金资助方及数据仓储平台强制强化数据源披露要求,并建议立即下架涉事数据集。研究指出,随着AI工具在医疗场景的快速渗透,缺乏基础透明度的科研若不及时建立审核机制,不可靠模型将持续泛滥,最终危及公共卫生安全。

相关链接