Rethinking Clustering-Based Pseudo-Labeling for Unsupervised Meta-Learning Überdenken von clustergestütztem Pseudobeschriftung für unüberwachtes Meta-Lernen

Die bahnbrechende Methode für unüberwachtes Meta-Lernen, CACTUs, ist ein clustergestützter Ansatz mit Pseudo-Labeling. Dieser Ansatz ist modellagnostisch und kann mit überwachten Algorithmen kombiniert werden, um aus nicht gekennzeichneten Daten zu lernen. Allerdings leidet er oft an Labelinkonsistenzen oder begrenzter Vielfalt, was zu schlechter Leistung führt. In dieser Arbeit beweisen wir, dass der Kerngrund dafür das Fehlen einer clustergünstigen Eigenschaft im Einbettungsraum ist. Wir beheben dies, indem wir das Verhältnis der Inter- zur Intra-Klassen-Ähnlichkeit minimieren, um clustergünstige Einbettungsmerkmale bereitzustellen, und validieren unseren Ansatz durch umfassende Experimente. Es sei darauf hingewiesen, dass wir trotz der Verwendung eines einfachen Clustering-Algorithmus (k-Means) in unserem Einbettungsraum zur Gewinnung von Pseudo-Labels erhebliche Verbesserungen erzielen. Darüber hinaus setzen wir einen fortschreitenden Evaluationsmechanismus ein, um vielfältigere Stichproben zu erhalten und das Problem der begrenzten Vielfalt weiter zu mildern. Schließlich ist unser Ansatz ebenfalls modellagnostisch und kann leicht in bestehende überwachte Methoden integriert werden. Um seine Generalisierungsfähigkeit zu demonstrieren, integrieren wir ihn in zwei repräsentative Algorithmen: MAML und EP. Die Ergebnisse auf drei Haupt-Benchmarks für Few-Shot-Lernen zeigen deutlich, dass die vorgeschlagene Methode im Vergleich zu den besten bisher bekannten Modellen erhebliche Verbesserungen erreicht. Bemerkenswerterweise übertrifft unser Ansatz auch die entsprechende überwachte Methode in zwei Aufgaben.