HyperAIHyperAI

Command Palette

Search for a command to run...

Lutte contre les étiquettes bruyantes par accord : une méthode d'entraînement conjoint avec co-régularisation

Hongxin Wei Lei Feng Xiangyu Chen Bo An

Résumé

L’apprentissage profond avec des étiquettes bruitées constitue un problème pratique difficile dans le cadre de l’apprentissage faiblement supervisé. Les approches les plus récentes, telles que « Decoupling » et « Co-teaching+ », affirment que la stratégie basée sur le « désaccord » est essentielle pour atténuer les effets du bruit dans les étiquettes. Dans cet article, nous adoptons une perspective différente et proposons un paradigme d’apprentissage robuste appelé JoCoR, dont l’objectif est de réduire la diversité entre deux réseaux durant l’entraînement. Plus précisément, nous utilisons deux réseaux pour produire des prédictions sur les mêmes données d’un mini-batch, puis calculons une perte conjointe pour chaque exemple d’entraînement en appliquant une régularisation conjointe (Co-Regularization). Ensuite, nous sélectionnons les exemples ayant une faible perte afin de mettre à jour simultanément les paramètres des deux réseaux. Grâce à cette perte conjointe, les deux réseaux deviennent progressivement plus similaires sous l’effet de la régularisation conjointe. Des expérimentations étendues sur des données altérées provenant de jeux de données standards — notamment MNIST, CIFAR-10, CIFAR-100 et Clothing1M — démontrent que JoCoR surpasser de nombreuses approches de pointe dans le cadre de l’apprentissage avec des étiquettes bruitées.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp
Lutte contre les étiquettes bruyantes par accord : une méthode d'entraînement conjoint avec co-régularisation | Articles | HyperAI