Command Palette
Search for a command to run...
{Qiu Chen Filipe R. Cordeiro Yi Zhu Qian Zhang}
要約
大規模な画像データセットには、避けがたいノイズラベルが頻繁に含まれており、これにより深層ニューラルネットワークにおいて過学習が生じ、性能が低下する。従来のノイズラベルからの学習手法の多くは、1段階のフレームワークを採用しており、学習データの分割と半教師付き学習（SSL）が最適化の過程で混在している。その結果、これらの手法の有効性は、分離されたクリーンデータセットの精度、ノイズに関する事前知識、およびSSLのロバスト性に大きく依存する。本論文では、対照学習（contrastive loss）を用いたノイズラベルに対するプログレッシブサンプル選択フレームワーク、PSSCL（Progressive Sample Selection with Contrastive Loss）を提案する。このフレームワークは2段階で動作し、ロバストな損失関数と対照学習を用いてモデルのロバスト性を強化する。第1段階では、長期的な信頼度検出戦略により小さなクリーンセットを特定することに注力し、第2段階ではこのクリーンセットを拡張することで性能を向上させる。PSSCLは、最先端手法と比較して、さまざまなベンチマークにおいて顕著な性能向上を示した。コードは https://github.com/LanXiaoPang613/PSSCL で公開されている。
ベンチマーク
| ベンチマーク | 方法論 | 指標 |
|---|---|---|
| image-classification-on-mini-webvision-1-0 | PSSCL (130 epochs) | ImageNet Top-1 Accuracy: 79.68 ImageNet Top-5 Accuracy: 95.16 Top-1 Accuracy: 79.56 Top-5 Accuracy: 94.84 |
| image-classification-on-mini-webvision-1-0 | PSSCL (120 epochs) | ImageNet Top-1 Accuracy: 79.40 ImageNet Top-5 Accuracy: 94.84 Top-1 Accuracy: 78.52 Top-5 Accuracy: 93.80 |
| learning-with-noisy-labels-on-animal | PSSCL | Accuracy: 88.74 ImageNet Pretrained: NO Network: Vgg19-BN |
| learning-with-noisy-labels-on-cifar-100n | PSSCL | Accuracy (mean): 72.00 |
| learning-with-noisy-labels-on-cifar-10n | PSSCL | Accuracy (mean): 96.41 |
| learning-with-noisy-labels-on-cifar-10n-1 | PSSCL | Accuracy (mean): 96.17 |
| learning-with-noisy-labels-on-cifar-10n-2 | PSSCL | Accuracy (mean): 96.21 |
| learning-with-noisy-labels-on-cifar-10n-3 | PSSCL | Accuracy (mean): 96.49 |
| learning-with-noisy-labels-on-cifar-10n-worst | PSSCL | Accuracy (mean): 95.12 |
| learning-with-noisy-labels-on-food-101 | PSSCL | Accuracy (% ): 86.41 |