HyperAIHyperAI

Command Palette

Search for a command to run...

Tiefes Transferlernen mit gemeinsamen Anpassungsnetzwerken

Mingsheng Long Han Zhu Jianmin Wang Michael I. Jordan

Zusammenfassung

Tiefe Netze wurden erfolgreich angewendet, um übertragbare Merkmale zu lernen, die es ermöglichen, Modelle von einer Quelldomäne auf eine andere Zieldomäne anzupassen. In dieser Arbeit stellen wir gemeinsame Anpassungsnetze (Joint Adaptation Networks, JAN) vor, die ein Transfer-Netzwerk durch Ausrichtung der gemeinsamen Verteilungen mehrerer domänenspezifischer Schichten über verschiedene Domänen hinweg basierend auf einem Kriterium des gemeinsamen maximalen Mittelwertes der Diskrepanz (Joint Maximum Mean Discrepancy, JMMD) lernen. Eine adversarische Trainingsstrategie wird verwendet, um das JMMD zu maximieren, sodass die Verteilungen der Quelldomäne und der Zieldomäne voneinander unterscheidbarer gemacht werden. Das Lernen kann mittels stochastischem Gradientenabstieg durchgeführt werden, wobei die Gradienten in linearer Zeit durch Backpropagation berechnet werden. Experimente bestätigen, dass unser Modell auf Standarddatensätzen den aktuellen Stand der Technik erreicht.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp