Command Palette
Search for a command to run...
PSSCL : un cadre de sélection progressive d’échantillons basé sur une perte contrastive conçu pour les étiquettes bruitées
{Qiu Chen Filipe R. Cordeiro Yi Zhu Qian Zhang}
Résumé
Les grands jeux de données d’images contiennent fréquemment des étiquettes bruitées inévitables, ce qui entraîne un surapprentissage (overfitting) dans les réseaux neuronaux profonds et une dégradation des performances. La plupart des méthodes existantes pour l’apprentissage à partir d’étiquettes bruitées fonctionnent selon des cadres à une seule étape, où la division des données d’entraînement et l’apprentissage semi-supervisé (SSL) sont étroitement imbriqués dans le processus d’optimisation. Par conséquent, leur efficacité dépend fortement de la précision de l’ensemble propre séparé, des connaissances a priori sur le bruit, ainsi que de la robustesse du SSL. Dans cet article, nous proposons un cadre progressif de sélection d’échantillons basé sur une perte de contraste pour les étiquettes bruitées, appelé PSSCL (Progressive Sample Selection with Contrastive Loss). Ce cadre fonctionne en deux étapes, en utilisant des pertes robustes et contrastives afin d’améliorer la robustesse du modèle. À l’étape I, l’objectif est d’identifier un petit ensemble propre grâce à une stratégie de détection de confiance à long terme, tandis que l’étape II vise à améliorer les performances en élargissant cet ensemble propre. PSSCL montre une amélioration significative par rapport aux méthodes de pointe sur diverses benchmarks. Le code source est disponible à l’adresse suivante : https://github.com/LanXiaoPang613/PSSCL.
Benchmarks
| Benchmark | Méthodologie | Métriques |
|---|---|---|
| image-classification-on-mini-webvision-1-0 | PSSCL (130 epochs) | ImageNet Top-1 Accuracy: 79.68 ImageNet Top-5 Accuracy: 95.16 Top-1 Accuracy: 79.56 Top-5 Accuracy: 94.84 |
| image-classification-on-mini-webvision-1-0 | PSSCL (120 epochs) | ImageNet Top-1 Accuracy: 79.40 ImageNet Top-5 Accuracy: 94.84 Top-1 Accuracy: 78.52 Top-5 Accuracy: 93.80 |
| learning-with-noisy-labels-on-animal | PSSCL | Accuracy: 88.74 ImageNet Pretrained: NO Network: Vgg19-BN |
| learning-with-noisy-labels-on-cifar-100n | PSSCL | Accuracy (mean): 72.00 |
| learning-with-noisy-labels-on-cifar-10n | PSSCL | Accuracy (mean): 96.41 |
| learning-with-noisy-labels-on-cifar-10n-1 | PSSCL | Accuracy (mean): 96.17 |
| learning-with-noisy-labels-on-cifar-10n-2 | PSSCL | Accuracy (mean): 96.21 |
| learning-with-noisy-labels-on-cifar-10n-3 | PSSCL | Accuracy (mean): 96.49 |
| learning-with-noisy-labels-on-cifar-10n-worst | PSSCL | Accuracy (mean): 95.12 |
| learning-with-noisy-labels-on-food-101 | PSSCL | Accuracy (% ): 86.41 |
Construire l'IA avec l'IA
De l'idée au lancement — accélérez votre développement IA avec du co-codage IA gratuit, un environnement prêt à l'emploi et les meilleurs prix GPU.