Unüberwachtes Few-Shot-Lernen mittels tiefer Laplace-Eigenvektorkarten

Das Erlernen einer neuen Aufgabe aus wenigen Beispielen bleibt eine offene Herausforderung im Maschinellen Lernen. Trotz des kürzlichen Fortschritts im Bereich des Few-Shot-Learnings basieren die meisten Methoden auf überwachtem Vortrainings oder Meta-Learning mit annotierten Metatrainingsdaten und können nicht auf den Fall angewendet werden, in dem die Vortrainingsdaten unannotiert sind. In dieser Studie stellen wir eine unsupervisierte Few-Shot-Lernmethode mittels tiefer Laplace-Eigenvektorkarten (deep Laplacian eigenmaps) vor. Unsere Methode lernt Darstellungen aus unannotierten Daten, indem ähnliche Stichproben zusammengefasst werden, und kann intuitiv durch zufällige Spaziergänge auf erweiterten Trainingsdaten interpretiert werden. Wir zeigen analytisch, wie tiefe Laplace-Eigenvektorkarten in der unsupervisierten Lernphase kollabierte Darstellungen vermeiden, ohne explizite Vergleiche zwischen positiven und negativen Stichproben zu ziehen. Die vorgeschlagene Methode schließt den Leistungsunterschied zwischen überwachtem und unsupervisiertem Few-Shot-Learning erheblich. Unser Ansatz erreicht auch vergleichbare Ergebnisse mit aktuellen state-of-the-art Selbstüberwachungslernmethoden unter dem Protokoll der linearen Bewertung.