8日前

ラベルノイズに対して頑健な$f$-ダイバージェンスの最適化

Jiaheng Wei, Yang Liu
ラベルノイズに対して頑健な$f$-ダイバージェンスの最適化
要約

ラベルノイズの存在下で、分類器の予測値と教師ラベルとの間に適切に定義された $f$-ダイバージェンスを最大化する際のロバスト性について、本研究ではその条件を示す。その変分表現を活用することで、ラベルノイズが存在する場合に、$f$-ダイバージェンスのクラスに対して優れた分離性(decoupling)の性質が導かれる。具体的には、このダイバージェンスが、クリーンな分布上で定義される変分差分の線形結合と、ノイズの影響によって生じるバイアス項の和として表現されることを示す。この導出により、異なる $f$-ダイバージェンス関数のロバスト性を体系的に分析することが可能となる。既に確立されたロバスト性を持つこのクラスの $f$-ダイバージェンス関数は、ラベルのノイズ率を事前に指定する必要のない、ノイズラベル付き学習問題における有用な評価指標として活用できる。一方、ロバスト性が保証されない場合については、その問題を解消するための修正手法を提案する。理論的結果に加え、広範な実験的証拠も提示する。本研究のコードは、https://github.com/UCSC-REAL/Robust-f-divergence-measures にて公開されている。

ラベルノイズに対して頑健な$f$-ダイバージェンスの最適化 | 最新論文 | HyperAI超神経