Norme Plus Grande, Transfert Plus Efficace : Une Approche de Norme de Caractéristiques Adaptative pour l'Adaptation de Domaine Non Supervisée

L'adaptation de domaine permet au modèle d'apprentissage de généraliser en toute sécurité dans de nouveaux environnements en atténuant les écarts de domaine entre différentes distributions. Les travaux précédents n'ont pas nécessairement réussi à identifier efficacement les raisons sous-jacentes qui entraînent une dégradation importante du modèle sur la tâche cible. Dans cet article, nous révélons empiriquement que la discrimination erratique du domaine cible provient principalement de ses normes de caractéristiques beaucoup plus faibles par rapport à celles du domaine source. À cette fin, nous proposons une nouvelle approche d'Adaptation des Normes de Caractéristiques (Adaptive Feature Norm) sans paramètre. Nous montrons que l'adaptation progressive des normes de caractéristiques des deux domaines à une large gamme de valeurs peut entraîner des gains importants en transfert, suggérant que les caractéristiques spécifiques à la tâche avec des normes plus importantes sont plus transférables. Notre méthode réussit à unifier le calcul de l'adaptation de domaine standard et partielle tout en offrant une meilleure robustesse face au problème de transfert négatif. Sans recourir à des techniques compliquées mais avec quelques lignes de code, notre méthode améliore considérablement les performances sur la tâche cible et dépasse largement les méthodes actuelles (de 11,5 % sur Office-Home et 17,1 % sur VisDA2017). Nous espérons que notre approche simple mais efficace apportera des éclairages précieux pour les futures recherches en apprentissage par transfert. Le code est disponible sur https://github.com/jihanyang/AFN.