HyperAIHyperAI

Command Palette

Search for a command to run...

CoMatch : Apprentissage semi-supervisé avec régularisation graphique contrastive

Junnan Li Caiming Xiong Steven Hoi

Résumé

L'apprentissage semi-supervisé s'est imposé comme un paradigme efficace pour exploiter les données non étiquetées afin de réduire la dépendance vis-à-vis des données étiquetées. Nous proposons CoMatch, une nouvelle méthode d'apprentissage semi-supervisé qui unifie les approches dominantes tout en surmontant leurs limites. CoMatch apprend simultanément deux représentations des données d'entraînement : leurs probabilités de classe et leurs embeddings de faible dimension. Ces deux représentations interagissent mutuellement pour évoluer conjointement. Les embeddings imposent une contrainte de régularité sur les probabilités de classe, améliorant ainsi les pseudo-étiquettes, tandis que ces dernières régularisent la structure des embeddings via un apprentissage contrastif basé sur graphe. CoMatch atteint des performances de pointe sur plusieurs jeux de données. Elle permet des améliorations significatives de précision sur CIFAR-10 et STL-10, où les étiquettes sont rares. Sur ImageNet avec seulement 1 % d'étiquettes, CoMatch obtient une précision top-1 de 66,0 %, dépassant FixMatch de 12,6 %. En outre, CoMatch offre des performances supérieures en apprentissage de représentations sur des tâches ultérieures, surpassant à la fois l'apprentissage supervisé et l'apprentissage auto-supervisé. Le code source et les modèles pré-entraînés sont disponibles à l'adresse suivante : https://github.com/salesforce/CoMatch.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp