医療用AIのプライバシー保護に重大な欠陥が存在することが、ネイチャー誌に発表した最新の研究で明らかになった。本研究では、医療AI学習データを用いたメンバーシップ推論攻撃に対する患者レベルのプライバシー監査が初めて実施された。その結果、特定の個人データを学習したかどうかをほぼ完璧な精度で特定できる攻撃が可能であり、特にマイノリティや希少疾患患者など、医療アクセスの弱い集団が極めて高いプライバシー漏洩リスクに晒されていることが判明した。 医療AIは臨床診断の役割を拡大しているが、その学習プロセスは機微な患者データに依存する。攻撃者はシステムの内部コードにアクセスできなくても、AIへの問い合わせ応答から学習データへの含まれを推測できる。AIは学習データに近いケースに対してより確信した予測を行う性質を利用した攻撃手法だ。従来はデータセット全体での攻撃成功頻度を平均値で評価する手法が取られてきたが、本研究では7つの大規模実データセットを用い、200種類のAIモデルを並列訓練して患者個人単位のリスクを可視化した。 分析の結果、標準的な集計指標は個別的なリスクを隠蔽し、公正なプライバシー保護がなされていない実態が浮き彫りになった。特に人種的マイノリティ、メディケイド受給者、希少疾患患者は、単一の医療画像が漏洩するだけで所属集団の特定が事実上可能となる極めて高いリスクを有していた。また、診断精度を高めるほどプライバシー脅威が増大するトレードオフ関係も確認された。匿名化や偽名化だけでは現代のAI攻撃に対抗できず、従来の評価手法では不十分であることが裏付けられた。 研究者らは、この格差が医療AIへの信頼低下を招き、特定集団のデータ提供意欲を削ぐことで将来のモデル精度をさらに歪める危険性を指摘している。対策として、個々の患者データやモデル出力に数学的に設計されたノイズを加え、統計的平等性を保証する患者レベルの差別的プライバシーの導入を強く求めている。今後は、単なる平均的なセキュリティ基準ではなく、数学的に検証可能な患者単位の保護枠組みが医療AI開発の必須要件となる見込みだ。