CoMatch : Apprentissage semi-supervisé avec régularisation graphique contrastive

L'apprentissage semi-supervisé s'est imposé comme un paradigme efficace pour exploiter les données non étiquetées afin de réduire la dépendance vis-à-vis des données étiquetées. Nous proposons CoMatch, une nouvelle méthode d'apprentissage semi-supervisé qui unifie les approches dominantes tout en surmontant leurs limites. CoMatch apprend simultanément deux représentations des données d'entraînement : leurs probabilités de classe et leurs embeddings de faible dimension. Ces deux représentations interagissent mutuellement pour évoluer conjointement. Les embeddings imposent une contrainte de régularité sur les probabilités de classe, améliorant ainsi les pseudo-étiquettes, tandis que ces dernières régularisent la structure des embeddings via un apprentissage contrastif basé sur graphe. CoMatch atteint des performances de pointe sur plusieurs jeux de données. Elle permet des améliorations significatives de précision sur CIFAR-10 et STL-10, où les étiquettes sont rares. Sur ImageNet avec seulement 1 % d'étiquettes, CoMatch obtient une précision top-1 de 66,0 %, dépassant FixMatch de 12,6 %. En outre, CoMatch offre des performances supérieures en apprentissage de représentations sur des tâches ultérieures, surpassant à la fois l'apprentissage supervisé et l'apprentissage auto-supervisé. Le code source et les modèles pré-entraînés sont disponibles à l'adresse suivante : https://github.com/salesforce/CoMatch.