Darstellungslernen mit kontrastiver prädiktiver Kodierung

Während überwachtes Lernen in vielen Anwendungen große Fortschritte ermöglicht hat, konnte unüberwachtes Lernen eine solche weitreichende Akzeptanz nicht erreichen und bleibt ein wichtiges und herausforderndes Unterfangen für künstliche Intelligenz. In dieser Arbeit schlagen wir einen universellen Ansatz des unüberwachten Lernens vor, um nützliche Repräsentationen aus hochdimensionalen Daten zu extrahieren, den wir Contrastive Predictive Coding (kontrastiven prädiktiven Kodierung) nennen. Das wesentliche Konzept unseres Modells besteht darin, solche Repräsentationen durch die Vorhersage der Zukunft im latente Raum unter Verwendung leistungsfähiger autoregressiver Modelle zu lernen. Wir verwenden einen probabilistischen kontrastiven Verlust, der den latenten Raum dazu anregt, Informationen zu erfassen, die maximal nützlich sind, um zukünftige Stichproben vorherzusagen. Dieser Verlust macht das Modell durch die Verwendung negativer Beispiele handhabbar. Während die meisten bisherigen Arbeiten sich auf die Bewertung von Repräsentationen für eine bestimmte Modalität konzentriert haben, zeigen wir, dass unser Ansatz in der Lage ist, nützliche Repräsentationen zu erlernen und starke Leistungen in vier verschiedenen Bereichen zu erzielen: Sprache, Bilder, Text und Reinforcement Learning in 3D-Umgebungen.