医疗AI致特定患者群体面临极高隐私泄露风险
2026年,《自然》杂志发表了一项针对医疗人工智能系统的突破性隐私审计研究。研究团队基于七组大型真实世界医疗数据集,独立训练了二百个AI模型,首次从患者级别评估成员推断攻击的威胁。结果表明,攻击者仅需通过常规交互观察预测置信度,即可近乎完美地反推特定患者的训练数据归属。 审计发现,医疗AI的隐私保护存在显著的群体性失衡。少数族裔、低收入医保患者及罕见病患者面临极高的个体泄露风险,传统的数据脱敏手段在此类攻击面前已完全失效。同时,研究证实了诊断精度与隐私安全之间的硬性权衡:模型性能越强,隐私暴露面越大。若继续沿用全局平均指标,将掩盖弱势群体的致命漏洞,导致患者信任流失并反噬模型长期性能。 针对上述危机,研究者明确提出需废除粗放式评估,全面引入患者级差分隐私机制。通过在模型输出端注入严格数学验证的噪声屏障,该方案可为每个独立病例提供可证明的身份隔离。此项技术路线的落地,有望打破隐私与效能的零和博弈,确保医疗AI在安全合规的前提下持续造福弱势群体。
