HyperAIHyperAI

Command Palette

Search for a command to run...

Darstellungslernen mit kontrastiver prädiktiver Kodierung

Aaron van den Oord Yazhe Li Oriol Vinyals

Zusammenfassung

Während überwachtes Lernen in vielen Anwendungen große Fortschritte ermöglicht hat, konnte unüberwachtes Lernen eine solche weitreichende Akzeptanz nicht erreichen und bleibt ein wichtiges und herausforderndes Unterfangen für künstliche Intelligenz. In dieser Arbeit schlagen wir einen universellen Ansatz des unüberwachten Lernens vor, um nützliche Repräsentationen aus hochdimensionalen Daten zu extrahieren, den wir Contrastive Predictive Coding (kontrastiven prädiktiven Kodierung) nennen. Das wesentliche Konzept unseres Modells besteht darin, solche Repräsentationen durch die Vorhersage der Zukunft im latente Raum unter Verwendung leistungsfähiger autoregressiver Modelle zu lernen. Wir verwenden einen probabilistischen kontrastiven Verlust, der den latenten Raum dazu anregt, Informationen zu erfassen, die maximal nützlich sind, um zukünftige Stichproben vorherzusagen. Dieser Verlust macht das Modell durch die Verwendung negativer Beispiele handhabbar. Während die meisten bisherigen Arbeiten sich auf die Bewertung von Repräsentationen für eine bestimmte Modalität konzentriert haben, zeigen wir, dass unser Ansatz in der Lage ist, nützliche Repräsentationen zu erlernen und starke Leistungen in vier verschiedenen Bereichen zu erzielen: Sprache, Bilder, Text und Reinforcement Learning in 3D-Umgebungen.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp