Verbindung von adversarialer und statistischer Domänenübertragung mittels Spektraladaptationsnetzwerken

Statistische und adversarische Adaptation sind derzeit zwei weit verbreitete Kategorien von neuronalen Netzarchitekturen im unsupervised deep domain adaptation. Letztere ist aufgrund ihrer soliden theoretischen Grundlage und guter empirischer Leistung zum neuen Standard geworden. Allerdings weisen beide Ansätze zwei wesentliche Schwächen auf. Erstens zeigen jüngste Studien, dass diese Methoden zu stark auf leicht übertragbare Merkmale fokussieren und dabei wichtige diskriminative Informationen vernachlässigen. Zweitens sind adversarische Netzwerke schwer zu trainieren. Wir haben das erste Problem dadurch angegangen, dass wir die Ausrichtung übertragbarer spektraler Eigenschaften innerhalb eines adversarischen Modells nutzen, um das Gleichgewicht zwischen leicht übertragbaren Merkmalen und notwendigen diskriminativen Merkmalen zu gewährleisten, gleichzeitig jedoch durch Relevanzüberlegungen das Lernen domain-spezifischer Semantik einschränken. Zum zweiten stabilisierten wir den Trainingsprozess der Diskriminatoren durch die Anwendung von Spectral Normalization, die durch Lipschitz-stetige Gradienten gewährleistet wird. Wir präsentieren eine theoretische und empirische Evaluation unseres verbesserten Ansatzes und zeigen dessen Wirksamkeit in einer Leistungsstudie anhand standardisierter Benchmark-Datensätze im Vergleich zu verschiedenen anderen state-of-the-art-Methoden.