AI による画像認識モデルのバイアス問題は、医療現場における皮膚病変の診断など、命に関わる場面で深刻なリスクをもたらします。従来の「プロジェクション・デバイシング」と呼ばれる手法は、バイアスを含む要素をモデルから除去しようとしますが、他の重要な関係性まで歪めてしまう「Whac-a-mole れっしゅ」問題を招き、結果的に新たな偏見を助長させる恐れがありました。ミット工科大学、ヴースターポリテクニック研究所、Google の研究チームは、この課題を解決する新しい手法「Weighted Rotational DebiasING（WRING）」を発表しました。この手法はモデルの学習プロセスを変更するのではなく、既存の事前学習済みモデルに対し、バイアスに関連する座標を異なる角度へ回転させることで、モデルが特定のグループを識別できなくする「ポストプロセス」アプローチです。MIT の助教授ウォルター・ゲリッチ氏らによれば、この方法はモデルの他の関係性を保持しつつ、効率的に特定の概念におけるバイアスを削減できます。これにより、医療画像検索で人種バイアスを除去しても性差別が増幅されるような副作用が避けられます。試験結果では、WRING は対象概念のバイアスを大幅に削減し、他の領域での偏見を増加させないことを示しました。現在、この技術は画像と言語を関連付ける CLIP 型モデルへの適用に限定されていますが、研究チームは ChatGPT などの生成型言語モデルへの拡張を今後の課題として挙げています。この研究は、米国国立科学財団やグーグルなどの支援により推進されました。