Generalisierte quellfreie Domänenanpassung

Domain Adaptation (DA) zielt darauf ab, das aus einer Quelldomäne erlernte Wissen auf eine unlabeled Zieldomäne zu übertragen. In jüngster Zeit wurden Ansätze für source-free Domain Adaptation (SFDA) entwickelt, bei denen lediglich ein vortrainiertes Modell der Quelldomäne zur Anpassung an die Zieldomäne zur Verfügung steht. Allerdings berücksichtigen diese Methoden nicht die Aufrechterhaltung der Leistung auf der Quelldomäne, was in praktischen Anwendungen von großer Relevanz ist. In diesem Artikel stellen wir ein neues Paradigma für Domain Adaptation vor, genannt Generalized Source-free Domain Adaptation (G-SFDA), bei dem das gelernte Modell sowohl auf der Ziel- als auch auf der Quelldomäne gut performen muss, wobei während der Anpassung lediglich unlabeled Ziel-Daten zugänglich sind. Zunächst schlagen wir Local Structure Clustering (LSC) vor, das darauf abzielt, die Zielmerkmale anhand ihrer semantisch ähnlichen Nachbarn zu clustern, wodurch das Modell effektiv auf die Zieldomäne angepasst werden kann, ohne Zugriff auf Quell-Daten. Zweitens führen wir Sparse Domain Attention (SDA) ein, das eine binäre, domänenspezifische Aufmerksamkeit erzeugt, um unterschiedliche Merkmalskanäle für verschiedene Domänen zu aktivieren, wobei die Domänen-Aufmerksamkeit gleichzeitig zur Regularisierung des Gradienten während der Anpassung genutzt wird, um Quellinformationen zu bewahren. In den Experimenten erreicht unsere Methode hinsichtlich der Ziel-Domänen-Leistung Wettbewerbsfähigkeit oder Überlegenheit gegenüber bestehenden DA- und SFDA-Methoden; insbesondere erzielt sie eine state-of-the-art-Leistung (85,4 %) auf VisDA. Zudem zeigt unsere Methode robuste Ergebnisse für alle Domänen, unabhängig davon, ob die Anpassung an eine oder mehrere Ziel-Domänen erfolgt ist. Der Quellcode ist unter https://github.com/Albert0147/G-SFDA verfügbar.