DNNの公平性の予測と向上に関する研究：知覚多様体の曲率を用いたアプローチ

長尾分類の課題に対処するために、研究者たちはモデルのバイアスを低減するための複数のアプローチを提案してきた。その多くは、サンプル数が少ないクラスが「弱いクラス」であると仮定している。しかし、最近の研究では、長尾クラスが常に学習が難しいわけではないことが示されており、サンプルが均等に分布したデータセット上でもモデルバイアスが観察されていることから、モデルバイアスに影響を与える他の要因が存在する可能性が示唆されている。本研究では、まずモデルの公平性を分析するための幾何学的視点を確立し、深層ニューラルネットワークにおける知覚多様体（perceptual manifolds）の幾何特性を体系的に測定するための一連の指標を提案する。その後、知覚多様体の幾何特性が分類の難易度に与える影響および学習プロセスがその幾何特性をどのように形成するかを包括的に探求する。驚くべき発見として、訓練の過程において、クラスの正解率と知覚多様体の分離度（separation degree）の相関が徐々に弱まり、一方で曲率（curvature）との負の相関が強まることが明らかになった。これは、曲率の不均衡がモデルバイアスを引き起こす要因であることを示唆している。この観察に基づき、曲率バランスが取れ、平坦な知覚多様体を学習するよう促すための曲率正則化（curvature regularization）を提案する。複数の長尾および非長尾データセットにおける評価結果から、本手法が優れた性能と高い汎用性を示すことが確認された。特に、現在の最先端技術に基づいても顕著な性能向上が達成されている点が注目される。本研究は、モデルバイアスに対する幾何学的分析の新たな視点を提供するとともに、長尾でないデータセット、さらにはサンプルが均等に分布したデータセットにおいてもモデルバイアスに注意を払う必要があることを研究者に呼びかけている。