DoubleMatch : Amélioration de l'apprentissage semi-supervisé grâce à l'apprentissage auto-supervisé

À la suite du succès du apprentissage supervisé, l’apprentissage semi-supervisé (SSL, semi-supervised learning) gagne aujourd’hui en popularité. Le SSL regroupe un ensemble de méthodes qui, en plus d’un ensemble d’apprentissage étiqueté, exploitent également une importante quantité de données non étiquetées pour ajuster un modèle. La plupart des méthodes SSL récentes et performantes reposent sur des approches de pseudo-étiquetage : les prédictions du modèle jugées confiantes sont utilisées comme étiquettes d’apprentissage. Bien que ces méthodes aient obtenu des résultats remarquables sur de nombreuses bases de données standards, un inconvénient de cette approche réside dans le fait que toutes les données non étiquetées ne sont pas utilisées durant l’entraînement. Nous proposons une nouvelle méthode SSL, appelée DoubleMatch, qui combine la technique de pseudo-étiquetage avec une perte auto-supervisée, permettant ainsi au modèle d’utiliser l’ensemble des données non étiquetées pendant l’entraînement. Nous démontrons que cette méthode atteint des performances de précision de pointe sur plusieurs bases de données standards, tout en réduisant le temps d’entraînement par rapport aux méthodes SSL existantes. Le code est disponible à l’adresse suivante : https://github.com/walline/doublematch.