Adaptation de domaine sans source généralisée

L’adaptation de domaine (DA) vise à transférer les connaissances acquises à partir d’un domaine source vers un domaine cible non étiqueté. Certaines recherches récentes s’intéressent à l’adaptation de domaine sans source (SFDA), dans laquelle seul un modèle pré-entraîné sur le domaine source est disponible pour l’adaptation au domaine cible. Toutefois, ces méthodes ne tiennent pas compte de la préservation des performances sur le domaine source, un aspect d’une grande valeur pratique dans les applications du monde réel. Dans cet article, nous proposons un nouveau paradigme d’adaptation de domaine appelé Adaptation de domaine sans source généralisée (G-SFDA), dans lequel le modèle appris doit performer efficacement à la fois sur le domaine cible et sur le domaine source, en n’ayant accès qu’aux données non étiquetées du domaine cible pendant l’adaptation. Premièrement, nous introduisons une méthode appelée clustering de structure locale (LSC), visant à regrouper les caractéristiques du domaine cible en fonction de leurs voisins sémantiquement similaires, permettant ainsi une adaptation efficace du modèle au domaine cible en l’absence de données du domaine source. Deuxièmement, nous proposons une attention de domaine creuse (SDA), qui génère une attention binaire spécifique au domaine afin d’activer différents canaux de caractéristiques selon le domaine, tout en utilisant cette attention pour régulariser le gradient durant l’adaptation, afin de préserver les informations du domaine source. Les expérimentations montrent que notre méthode atteint des performances comparables ou supérieures à celles des méthodes existantes de DA et SFDA en termes de performance sur le domaine cible ; en particulier, elle obtient un résultat de pointe (85,4 %) sur le jeu de données VisDA. De plus, notre méthode s’avère efficace pour tous les domaines après adaptation à un ou plusieurs domaines cibles. Le code source est disponible à l’adresse suivante : https://github.com/Albert0147/G-SFDA.