Domain-adaptives Transferlernen mit Spezialistenmodellen

Transfer Learning ist eine weit verbreitete Methode zur Erstellung hochleistungsfähiger Computer Vision Modelle. In dieser Arbeit untersuchen wir die Effektivität des Transfer Learnings, indem wir analysieren, wie die Wahl der Daten die Leistung beeinflusst. Wir stellen fest, dass mehr Vortrainingsdaten nicht immer hilfreich sind und dass die Transferleistung von einer sorgfältigen Auswahl der Vortrainingsdaten abhängt. Diese Erkenntnisse sind von Bedeutung angesichts der stetigen Zunahme der Datensatzgrößen. Des Weiteren schlagen wir das domänenadaptive Transfer Learning vor, eine einfache und effektive Vortrainingsmethode, bei der Gewichtungen auf Basis des Ziel-Datensatzes berechnet werden. Unsere Methode zur Berechnung der Gewichtungen basiert auf Ideen aus dem Bereich der Domänenanpassung, und wir zeigen eine neuartige Anwendung im Kontext des Transfer Learnings. Unsere Methoden erzielen Stand-of-the-Art Ergebnisse in mehreren feinkörnigen Klassifikationsdatensätzen und eignen sich gut für praktische Anwendungen.