ジョンズ・ホプキンス大学と米国食品医薬品局（FDA）の共同研究チームは、医療用人工知能（AI）の学習データに潜む隠れたバイアスを検出する新ツール「G-AUDIT」を開発し、学術誌npj Digital Medicineに発表した。本研究は、AIが臨床的に意味のある信号ではなく偶然の関連に依存して誤った予測を行うリスクを、学習前のデータ段階で可視化する手法を提供する。 従来の評価ではモデルの出力を検証する事後審査が主流であったが、G-AUDITは訓練データ内の属性を分析・順位付けし、モデルが誤学習しやすいバイアスの発生源を事前に特定する。例えば皮膚がんの画像データにおいて、撮影機器の差や定規の併写の有無が医療機関によって異なっていた場合、AIはそれらをがんの予測因子と誤認する可能性がある。本ツールはこうしたデータ収集時の偏りを抽出し、臨床現場での適用時に生じうる医療格差のリスクを未然に防ぐ。 同大のMathias Unberath教授は、医療AIはデータから学習する過程で即座には見えない誤判断を誘発しうると指摘し、本ツールがメタデータ要素のリスクを明確にすると説明する。同ラボのMitchell Pavlak氏も、モデルの事後監査に依存しないデータ優先の検証パラダイムへ転換するものと評価している。 G-AUDITは画像、テキスト、表計算データなどで検証され潜在的な欠陥検出に成功している。研究チームは今後機能拡張と他分野への応用を図るとしており、医療AIの臨床的信頼性向上と規制当局による厳格な評価支援に寄与すると期待されている。