Daten-effiziente Bilderkennung mit kontrastiver prädiktiver Kodierung

Menschen können lernen, neue Bildkategorien anhand einer kleinen Anzahl von Beispielen zu erkennen, während dies für künstliche Systeme noch immer eine offene Herausforderung darstellt. Wir vermuten, dass daten-effiziente Erkennung durch Darstellungen ermöglicht wird, die die Variabilität natürlicher Signale vorhersagbarer machen. Aus diesem Grund überarbeiten und verbessern wir das Contrastive Predictive Coding (kontrastives prädiktives Kodieren), ein unüberwachtes Lernziel zur Erstellung solcher Darstellungen. Diese neue Implementierung erzeugt Merkmale, die den Stand der Technik in Bezug auf lineare Klassifikationsgenauigkeit im ImageNet-Datensatz unterstützen. Wenn diese Darstellung als Eingabe für nicht-lineare Klassifikation mit tiefen neuronalen Netzen verwendet wird, ermöglicht sie uns, 2-5 Mal weniger Labels zu verwenden als Klassifikatoren, die direkt auf Bilddaten trainiert wurden. Schließlich führt diese unüberwachte Darstellung zu einem erheblichen Fortschritt im Transferlernen zur Objekterkennung im PASCAL VOC-Datensatz und übertreffen vollständig überwachte ImageNet-Vorklassifikatoren.