HyperAIHyperAI

Command Palette

Search for a command to run...

Espace de classe réduit pour une certitude améliorée dans l’apprentissage semi-supervisé

Lihe Yang Zhen Zhao Lei Qi Yu Qiao Yinghuan Shi Hengshuang Zhao

Résumé

L'apprentissage semi-supervisé suscite un intérêt croissant, en raison de son succès dans l'exploitation des données non étiquetées. Pour atténuer les étiquettes pseudo-incorrectes potentielles, les cadres récents fixent généralement un seuil de confiance fixe afin d'éliminer les échantillons incertains. Cette pratique garantit une qualité élevée des étiquettes pseudo, mais entraîne une utilisation relativement faible de l'ensemble complet des données non étiquetées. Dans ce travail, notre observation clé est que ces échantillons incertains peuvent être transformés en échantillons certains, à condition de détecter et d’éliminer les classes confuses associées à la classe principale (top-1). Inspirés par cette idée, nous proposons une nouvelle méthode, nommée ShrinkMatch, pour apprendre à partir des échantillons incertains. Pour chaque échantillon incertain, notre méthode recherche de manière adaptative un espace de classes réduit, qui ne contient que la classe principale d’origine ainsi que les classes moins probables. Comme les classes confuses sont éliminées dans cet espace réduit, la confiance recalculée pour la classe principale satisfait le seuil prédéfini. Nous imposons ensuite une régularisation de cohérence entre une paire d’échantillons fortement et faiblement augmentés dans cet espace réduit, afin d’obtenir des représentations discriminantes. En outre, en tenant compte de la fiabilité variable des échantillons incertains et de l’amélioration progressive du modèle au cours de l’entraînement, nous proposons deux principes de réajustement des poids spécifiques à la perte des échantillons incertains. Notre méthode obtient des performances remarquables sur des benchmarks largement utilisés. Le code est disponible à l’adresse suivante : https://github.com/LiheYoung/ShrinkMatch.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp
Espace de classe réduit pour une certitude améliorée dans l’apprentissage semi-supervisé | Articles | HyperAI