17日前

LongReMix:ノイズのあるラベル環境における高信頼度サンプルを用いたロバストな学習

Filipe R. Cordeiro, Ragav Sachdeva, Vasileios Belagiannis, Ian Reid, Gustavo Carneiro
LongReMix:ノイズのあるラベル環境における高信頼度サンプルを用いたロバストな学習
要約

深層ニューラルネットワークモデルは限定的なラベルノイズに対しては頑健であるが、高ノイズ率の問題において誤ったラベルを記憶してしまう能力については依然として未解決の課題である。現在最も競争力のあるラベルノイズ学習手法は、2段階プロセスに基づいている。まず、教師なし学習を用いて訓練サンプルを「クリーン」または「ノイズあり」と分類し、次に、その分類結果に基づいて「クリーン」と判定されたサンプルから構成されるラベル付きデータセットと、「ノイズあり」と判定されたサンプルからなるラベルなしデータセットを用いて、経験的vicinalリスク(EVR)を最小化する半教師あり学習を行う。本論文では、このような2段階ラベルノイズ学習手法の一般化性能が、教師なし分類器の精度および訓練データセットのサイズに依存すると仮説を立てた。我々はこの2つの仮説を実証的に検証し、新たな2段階ラベルノイズ学習アルゴリズム「LongReMix」を提案する。LongReMixは、ラベルノイズベンチマークとして広く用いられるCIFAR-10、CIFAR-100、WebVision、Clothing1M、Food101-Nにおいて評価された。その結果、特に高ノイズ率の状況下において、従来の手法と比較してより優れた一般化性能を示した。さらに、多数のデータセットにおいて、現在の最先端(SOTA)性能を達成した。実装コードは、https://github.com/filipe-research/LongReMix にて公開されている。

LongReMix:ノイズのあるラベル環境における高信頼度サンプルを用いたロバストな学習 | 最新論文 | HyperAI超神経