HyperAIHyperAI
vor 4 Monaten

Semi-Supervised Learning durch erweiterte Verteilungsausrichtung

Qin Wang; Wen Li; Luc Van Gool
Semi-Supervised Learning durch erweiterte Verteilungsausrichtung
Abstract

In dieser Arbeit schlagen wir einen einfachen, aber effektiven Ansatz für das semisupervisierte Lernen vor, den wir Augmented Distribution Alignment (verstärkte Verteilungsanpassung) nennen. Wir zeigen auf, dass ein wesentlicher Stichprobenfehler im semisupervisierten Lernen existiert, der durch die begrenzte Anzahl von beschrifteten Stichproben entsteht und oft zu einem erheblichen empirischen Verteilungsunterschied zwischen beschrifteten und unbeschrifteten Daten führt. Um diesen Fehler zu mildern, schlagen wir vor, die empirischen Verteilungen von beschrifteten und unbeschrifteten Daten auszurichten. Einerseits greifen wir auf eine adversarische Trainingsstrategie zurück, um den Verteilungsabstand zwischen beschrifteten und unbeschrifteten Daten zu minimieren, inspiriert von Arbeiten im Bereich der Domänenanpassung. Andererseits, um das Problem der geringen Stichprobengröße der beschrifteten Daten anzugehen, schlagen wir auch eine einfache Interpolationsstrategie vor, um Pseudo-Trainingsbeispiele zu generieren. Beide Strategien können leicht in bestehende tiefere Neuronale Netze integriert werden. Wir demonstrieren die Effektivität unseres vorgeschlagenen Ansatzes anhand der Benchmark-Datensätze SVHN und CIFAR10. Unser Code ist unter \url{https://github.com/qinenergy/adanet} verfügbar.