MixMatch: Ein ganzheitlicher Ansatz für semisupervises Lernen

Das semisupervisierte Lernen hat sich als mächtiges Paradigma erwiesen, um unlabeled Daten zu nutzen und die Abhängigkeit von großen annotierten Datensätzen zu verringern. In dieser Arbeit vereinen wir die derzeit dominierenden Ansätze des semisupervisierten Lernens, um einen neuen Algorithmus namens MixMatch zu entwickeln. Dieser funktioniert, indem er für durch Data Augmentation veränderte unlabeled Beispiele niedrig-entropische Labels schätzt und labeled und unlabeled Daten mittels MixUp mischt. Wir zeigen, dass MixMatch bei vielen Datensätzen und unterschiedlichen Mengen an labeled Daten um ein großes Maß state-of-the-art Ergebnisse erzielt. Zum Beispiel reduzieren wir bei CIFAR-10 mit 250 Labels den Fehler rate um den Faktor 4 (von 38% auf 11%) und bei STL-10 um den Faktor 2. Darüber hinaus demonstrieren wir, wie MixMatch dazu beitragen kann, eine deutlich bessere Genauigkeits-Privatsphäre-Ausgewogenheit für Differential Privacy zu erreichen. Schließlich führen wir eine Ablationsstudie durch, um herauszufinden, welche Komponenten von MixMatch für dessen Erfolg am wichtigsten sind.