2ヶ月前
次元性駆動学習におけるノイズ付きラベルの扱い
Xingjun Ma; Yisen Wang; Michael E. Houle; Shuo Zhou; Sarah M. Erfani; Shu-Tao Xia; Sudanthi Wijewickrema; James Bailey

要約
大量のノイジー(誤った)クラスラベルを含むデータセットは、正確な深層ニューラルネットワーク(DNN)の学習に課題をもたらします。本研究では、このようなデータセットに対するDNNの汎化性能を理解する新たな視点を提案します。具体的には、学習サンプルの深層表現部分空間の次元性を調査することで、この視点からアプローチしています。我々は、次元性の観点から、クリーンラベルで学習した場合とノイジーラベルが一定割合含まれた場合でのDNNの学習様式が非常に異なることを示しました。この知見に基づいて、新しい次元性駆動型学習戦略を開発しました。この戦略は、学習中に部分空間の次元性を監視し、それに応じて損失関数を適応的に調整します。実験結果により、我々の手法は大量のノイジーラベルに対して高い耐性を持ち、データ分布を捉える低次元局所部分空間を効果的に学習できることが確認されました。