HyperAIHyperAI
il y a 8 jours

Pontage entre le transfert de domaine adversarial et le transfert de domaine statistique par le biais des réseaux de adaptation spectrale

{Frank-Michael Schleif, Peter Meier, Philipp Väth, Christoph Raab}
Résumé

L’adaptation statistique et l’adaptation adversariale constituent actuellement deux grandes catégories d’architectures de réseaux neuronaux en adaptation de domaine profonde non supervisée. La seconde est devenue la nouvelle norme en raison de sa solide fondation théorique et de ses performances empiriques remarquables. Toutefois, deux limites subsistent. Premièrement, des études récentes montrent que ces approches se concentrent excessivement sur les caractéristiques facilement transférables, au détriment d’informations discriminatives essentielles. Deuxièmement, les réseaux adversariaux sont difficiles à entraîner. Nous avons abordé la première problématique en alignant les propriétés spectrales transférables au sein d’un modèle adversarial, afin d’équilibrer l’attention entre les caractéristiques facilement transférables et les caractéristiques discriminantes nécessaires, tout en limitant l’apprentissage des sémantiques spécifiques à chaque domaine par des considérations de pertinence. Deuxièmement, nous avons stabilisé le processus d’entraînement des réseaux discriminateurs en appliquant la Normalisation Spectrale, qui garantit des gradients lipschitziens. Nous fournissons une évaluation théorique et empirique de notre approche améliorée, et démontrons son efficacité dans une étude de performance sur des jeux de données standard, en la comparant à diverses méthodes de pointe.

Pontage entre le transfert de domaine adversarial et le transfert de domaine statistique par le biais des réseaux de adaptation spectrale | Articles de recherche récents | HyperAI