Command Palette
Search for a command to run...
性別バイアスの低減:von Mises-Fisher混合モデルを用いた顔認識
性別バイアスの低減:von Mises-Fisher混合モデルを用いた顔認識
Jean-Rémy Conti Nathan Noiry Vincent Despiegel Stéphane Gentric Stéphan Clémençon
概要
日常的なさまざまな応用において、深層学習アルゴリズムの高い性能と信頼性は広く認められているが、多くの調査では、多くのモデルが特定の人口グループ(例:性別、人種)に対して偏りを示すことが明らかになっている。このため、実務家は、敏感なグループ間で均一かつ比較可能な性能を発揮する公正なシステムの開発が求められている。本研究では、深層顔認識ネットワークにおける性別バイアスに着目する。このバイアスを測定するため、顔認識システムの実装における本質的な要件をより適切に反映する新たな2つの指標、BFAR および BFRR を導入する。幾何学的考察をもとに、事前学習済みモデルの深層埋め込みを変換する新しい後処理手法により、差別を受けやすいサブグループにより強い表現力を与えることで、性別バイアスを軽減する。この手法は、各性別におけるクラス内分散を考慮した、公平性を考慮したvon Mises-Fisher損失を最小化するように浅層ニューラルネットワークを学習することで実現される。興味深いことに、実験的にこれらのハイパーパラメータが公平性指標と相関していることが観察された。実際に、さまざまなデータセット上で実施された広範な数値実験の結果、これらのハイパーパラメータの慎重な選定が性別バイアスを顕著に低減することを示している。実験に使用したコードは、https://github.com/JRConti/EthicalModule_vMF にて公開されている。