HyperAIHyperAI
vor einem Monat

Tiefes Transferlernen mit gemeinsamen Anpassungsnetzwerken

Mingsheng Long; Han Zhu; Jianmin Wang; Michael I. Jordan
Tiefes Transferlernen mit gemeinsamen Anpassungsnetzwerken
Abstract

Tiefe Netze wurden erfolgreich angewendet, um übertragbare Merkmale zu lernen, die es ermöglichen, Modelle von einer Quelldomäne auf eine andere Zieldomäne anzupassen. In dieser Arbeit stellen wir gemeinsame Anpassungsnetze (Joint Adaptation Networks, JAN) vor, die ein Transfer-Netzwerk durch Ausrichtung der gemeinsamen Verteilungen mehrerer domänenspezifischer Schichten über verschiedene Domänen hinweg basierend auf einem Kriterium des gemeinsamen maximalen Mittelwertes der Diskrepanz (Joint Maximum Mean Discrepancy, JMMD) lernen. Eine adversarische Trainingsstrategie wird verwendet, um das JMMD zu maximieren, sodass die Verteilungen der Quelldomäne und der Zieldomäne voneinander unterscheidbarer gemacht werden. Das Lernen kann mittels stochastischem Gradientenabstieg durchgeführt werden, wobei die Gradienten in linearer Zeit durch Backpropagation berechnet werden. Experimente bestätigen, dass unser Modell auf Standarddatensätzen den aktuellen Stand der Technik erreicht.

Tiefes Transferlernen mit gemeinsamen Anpassungsnetzwerken | Neueste Forschungsarbeiten | HyperAI