Réexaminer l’étiquetage pseudo-basé sur le regroupement pour l’apprentissage meta non supervisé

La méthode novatrice d'apprentissage méta non supervisé, CACTUs, est une approche basée sur le clustering avec pseudo-étiquetage. Cette méthode est indépendante du modèle et peut être combinée avec des algorithmes supervisés pour apprendre à partir de données non étiquetées. Cependant, elle souffre souvent d'incohérence des étiquettes ou d'une diversité limitée, ce qui entraîne de mauvaises performances. Dans cette étude, nous démontrons que la cause principale de ces problèmes réside dans l'absence d'une propriété favorable au clustering dans l'espace d'embedding. Pour y remédier, nous minimisons le rapport entre la similarité interclasse et la similarité intraclasse afin de fournir des caractéristiques d'embedding favorables au clustering, et nous validons notre approche par des expériences exhaustives. Il convient de noter que, malgré l'utilisation exclusive d'un algorithme de clustering simple (k-means) dans notre espace d'embedding pour obtenir les pseudo-étiquettes, nous réalisons une amélioration significative. De plus, nous adoptons un mécanisme d'évaluation progressif pour obtenir des échantillons plus diversifiés afin de réduire davantage le problème de diversité limitée. Enfin, notre approche est également indépendante du modèle et peut facilement être intégrée aux méthodes supervisées existantes. Pour démontrer sa capacité de généralisation, nous l'intégrons à deux algorithmes représentatifs : MAML et EP. Les résultats sur trois principaux benchmarks en apprentissage par few-shots montrent clairement que la méthode proposée réalise une amélioration significative par rapport aux modèles de pointe actuels. Notamment, notre approche surpass également la méthode supervisée correspondante dans deux tâches.