HyperAIHyperAI
vor 16 Tagen

C-SFDA: Ein curriculum learning-begleitendes Self-Training-Rahmenwerk für eine effiziente quellenfreie Domänenanpassung

Nazmul Karim, Niluthpol Chowdhury Mithun, Abhinav Rajvanshi, Han-pang Chiu, Supun Samarasekera, Nazanin Rahnavard
C-SFDA: Ein curriculum learning-begleitendes Self-Training-Rahmenwerk für eine effiziente quellenfreie Domänenanpassung
Abstract

Unsupervised Domain Adaptation (UDA)-Ansätze konzentrieren sich darauf, Modelle, die auf einem beschrifteten Quelldomäne trainiert wurden, auf eine unbezeichnete Ziel-Domäne anzupassen. UDA-Methoden basieren auf der starken Annahme, dass die Quelldaten während der Adaptation zugänglich sind, was in vielen realen Szenarien aufgrund von Datenschutzbedenken und Ressourcenbeschränkungen der Geräte nicht praktikabel ist. In diesem Kontext erweist sich die source-free Domain Adaptation (SFDA) als überlegen, da der Zugriff auf Quelldaten während der Adaptation nicht mehr erforderlich ist. Aktuelle State-of-the-Art (SOTA)-Methoden zur SFDA konzentrieren sich hauptsächlich auf die Verbesserung von Pseudolabels durch selbstgesteuertes Lernen (self-training), das generell zwei Probleme aufweist: i) die unvermeidliche Entstehung von verrauschten Pseudolabels, die zu einer frühzeitigen Speicherung von Trainingsinformationen führen können, und ii) der Verbesserungsprozess erfordert die Aufrechterhaltung eines Speicherbänke (memory bank), was in ressourcenbeschränkten Umgebungen eine erhebliche Belastung darstellt. Um diese Herausforderungen zu bewältigen, schlagen wir C-SFDA vor – einen Curriculum-Learning-geführten Selbsttrainings-Framework für SFDA, der effizient und zuverlässig auf Veränderungen zwischen Domänen reagiert, basierend auf selektiver Pseudolabeling. Konkret nutzen wir ein Curriculum-Learning-Schema, um das Lernen aus einer begrenzten Menge an Pseudolabels zu fördern, die aufgrund ihrer Zuverlässigkeit ausgewählt wurden. Dieser einfache, aber wirksame Schritt verhindert erfolgreich die Ausbreitung von Label-Rauschen über verschiedene Phasen der Adaptation und entfällt den Bedarf an kostspieligen Speicherbank-basierten Label-Verfeinerungsprozessen. Unsere umfangreichen experimentellen Evaluierungen auf Aufgaben der Bilderkennung und semantischen Segmentierung bestätigen die Wirksamkeit unseres Ansatzes. C-SFDA ist problemlos für die Online-Testzeit-Domain-Adaptation anwendbar und übertrifft dabei die bisherigen SOTA-Methoden in dieser Aufgabe.

C-SFDA: Ein curriculum learning-begleitendes Self-Training-Rahmenwerk für eine effiziente quellenfreie Domänenanpassung | Neueste Forschungsarbeiten | HyperAI