HyperAIHyperAI
vor 8 Tagen

SENTRY: Selektive Entropie-Optimierung über Komitee-Konsistenz für unüberwachte Domänenanpassung

Viraj Prabhu, Shivam Khare, Deeksha Kartik, Judy Hoffman
SENTRY: Selektive Entropie-Optimierung über Komitee-Konsistenz für unüberwachte Domänenanpassung
Abstract

Viele bestehende Ansätze für unüberwachte Domänenanpassung (UDA) konzentrieren sich auf die Anpassung bei lediglich einer Veränderung der Datensverteilung und erzielen unter zusätzlicher, zwischen den Domänen unterschiedlicher Labelverteilung nur begrenzten Erfolg. Neuere Ansätze, die auf Self-Training mit Ziel-Pseudolabels basieren, zeigen vielversprechende Ergebnisse, doch bei starken Verteilungsverschiebungen können die Pseudolabels stark unzuverlässig sein, und deren Verwendung im Self-Training kann zu Fehlerakku­mulation und Domänenmissalignment führen. Wir stellen SENTRY (Selective Entropy Optimization via Committee Consistency) vor, einen UDA-Algorithmus, der die Zuverlässigkeit eines Ziel-Instanzen anhand ihrer Vorhersagekonsistenz unter einer Komitee-Gruppe zufälliger Bilddatenverformungen bewertet. Unser Algorithmus minimiert anschließend selektiv die Vorhersageentropie, um die Konfidenz bei hochkonsistenten Ziel-Instanzen zu erhöhen, und maximiert gleichzeitig die Vorhersageentropie, um die Konfidenz bei stark inkonsistenten Instanzen zu verringern. In Kombination mit einer auf Pseudolabels basierenden Näherung der Klassenbalancierung im Zielbereich erzielt unsere Methode signifikante Verbesserungen gegenüber dem Stand der Technik bei 27 von 31 Domänenverschiebungen aus standardisierten UDA-Benchmarks sowie Benchmarks, die speziell zur Stress-Testung der Anpassung unter Labelverteilungsverschiebung konzipiert wurden.

SENTRY: Selektive Entropie-Optimierung über Komitee-Konsistenz für unüberwachte Domänenanpassung | Neueste Forschungsarbeiten | HyperAI