Billion-skaliertes semisupervisiertes Lernen für die Bildklassifizierung

Dieses Papier präsentiert eine Studie zum semiaufgeführten Lernen mit großen Faltungsnetzen. Wir schlagen einen Prozess vor, der auf einem Lehrer/Schüler-Paradigma basiert und eine große Sammlung von nicht annotierten Bildern (bis zu einer Milliarde) nutzt. Unser Hauptziel ist es, die Leistung für eine gegebene Zielarchitektur, wie z.B. ResNet-50 oder ResNext, zu verbessern. Wir führen eine umfassende Analyse der Erfolgsfaktoren unseres Ansatzes durch, was uns dazu veranlasst, einige Empfehlungen zur Erstellung hochgenauer Modelle für die Bildklassifizierung mit semiaufgeführtem Lernen zu formulieren. Als Ergebnis bringt unser Ansatz wichtige Verbesserungen für Standardarchitekturen in der Bild-, Video- und feingranularen Klassifizierung. Zum Beispiel erreicht unser gelerntes einfaches ResNet-50 durch die Nutzung von einer Milliarde nicht annotierter Bilder eine Top-1-Akkuratesse von 81,2 % im ImageNet-Benchmark.