Skalierung von semi-supervised Learning mit uneingeschränkten unbeschrifteten Daten

Wir stellen UnMixMatch vor, einen semi-supervised Lernansatz, der effektive Darstellungen aus unbeschränkten, unbeschrifteten Daten lernen kann, um die Leistungsfähigkeit zu skalieren. Die meisten bestehenden semi-supervised Methoden basieren auf der Annahme, dass beschriftete und unbeschriftete Beispiele aus derselben Verteilung stammen, was das Potenzial zur Verbesserung durch die Nutzung von kostenlos verfügbaren, unbeschrifteten Daten einschränkt. Dadurch werden die Verallgemeinerungsfähigkeit und Skalierbarkeit des semi-supervised Lernens oft beeinträchtigt. Unser Ansatz zielt darauf ab, diese Einschränkungen zu überwinden und unbeschränkte, unbeschriftete Daten effektiv im semi-supervised Lernprozess zu nutzen. UnMixMatch besteht aus drei Hauptkomponenten: einem überwachten Lerner mit harten Augmentierungen, der eine starke Regularisierung bietet; einem kontrastiven Konsistenz-Regulierer, der grundlegende Darstellungen aus den unbeschrifteten Daten lernt; sowie einer selbstüberwachten Verlustfunktion, die die aus unbeschrifteten Daten gelernten Darstellungen verbessert. Wir führen umfangreiche Experimente auf vier gängigen Datensätzen durch und zeigen eine überlegene Leistung im Vergleich zu bestehenden semi-supervised Methoden mit einer Leistungssteigerung von 4,79 %. Umfangreiche Ablations- und Sensitivitätsstudien belegen die Wirksamkeit und den Einfluss jeder einzelnen Komponente unseres Ansatzes.