アイカーン医科大学マウント・シナイ病院の研究チームが、医療AIのデータに潜む偏見を検出し、是正する新ツール「AEquity」を開発した。このツールは、胸部X線画像を含む多様な医療データセットにおいて、明示的・暗黙的な人種的バイアスを特定・分析し、AIモデルの訓練前に是正を可能にする。研究結果は『Journal of Medical Internet Research』に掲載され、「健康データセットにおける潜在的および明示的な人種的バイアスの検出・特性分析・是正：アルゴリズム開発と検証研究」と題されている。 研究チームは、医療画像、患者記録、および国立栄養健康調査（NHANES）などの大規模公的データを対象に、さまざまな機械学習モデルでAEquityの有効性を検証。従来の認識外のバイアスも発見し、特に少数派の人口グループが不十分に代表されている場合や、疾患の症状が人種ごとに異なる表現を示すケースでの偏りを明らかにした。こうした不均衡なデータに基づくAIは、診断の誤りや不適切な治療判断を引き起こし、悪循環を生む恐れがある。 第一著者のファリス・グルマリ医師は、「我々の目的は、開発者や医療機関がデータにバイアスがないかを確認し、是正できる実用的なツールを提供すること」と述べ、AIがすべての患者に公平に機能するよう支援することを目指している。 AEquityは、シンプルなモデルから大規模言語モデルまで幅広く対応可能で、入力データ（検査結果、画像など）だけでなく、出力（診断予測、リスクスコア）の公平性も評価できる。開発段階や導入前監査、規制対応など、多様な場面での活用が期待される。 研究の責任著者であるギリッシュ・ナドカーニ医師は、「技術的な進歩だけでは不十分。データの収集・解釈・活用の仕組みそのものを見直す必要がある」と強調。AIがすべてのコミュニティに貢献するためには、データそのものの質が根本的な鍵だと指摘した。 同病院のデイビッド・リヒ医師も、「バイアスをデータ段階で解消することで、AIによる医療の質を根本から改善できる。信頼性と公平性を高め、すべての患者に良い結果をもたらす学習型医療システムの実現に向けた重要な一歩だ」と評価した。