SelfMatch: Kombination von kontrastiver Selbstüberwachung und Konsistenz für semi-supervised Learning

Diese Arbeit stellt SelfMatch vor, eine semi-supervised Lernmethode, die die Stärken der kontrastiven selbstüberwachten Lernansätze mit der Konsistenzregularisierung verbindet. SelfMatch besteht aus zwei Phasen: (1) selbstüberwachtes Vortrainieren basierend auf kontrastivem Lernen und (2) semi-supervised Feinabstimmung basierend auf der Konsistenzregularisierung durch Daten-Augmentation. Wir zeigen empirisch, dass SelfMatch state-of-the-art Ergebnisse auf Standard-Benchmark-Datensätzen wie CIFAR-10 und SVHN erzielt. Beispielsweise erreicht SelfMatch bei CIFAR-10 mit nur 40 gelabelten Beispielen eine Genauigkeit von 93,19 %, was die Leistung starker vorheriger Methoden wie MixMatch (52,46 %), UDA (70,95 %), ReMixMatch (80,9 %) und FixMatch (86,19 %) übertrifft. Wir weisen darauf hin, dass SelfMatch den Abstand zwischen überwachtem Lernen (95,87 %) und semi-supervised Lernen (93,19 %) durch die Nutzung nur weniger Labels pro Klasse nahezu schließen kann.