HyperAIHyperAI
il y a 7 jours

Amélioration de la découverte de catégories nouvelles à travers des domaines grâce à l’apprentissage contrastif souple et à un classificateur tout-en-un

{Stan Z. Li, Xuansong Xie, Baigui Sun, Fei Wang, Senqiao Yang, Lei Shang, Zelin Zang}
Amélioration de la découverte de catégories nouvelles à travers des domaines grâce à l’apprentissage contrastif souple et à un classificateur tout-en-un
Résumé

L’adaptation de domaine non supervisée (UDA) s’est révélée extrêmement efficace pour transférer des connaissances d’un domaine source riche en étiquettes vers un domaine cible pauvre en étiquettes. Toutefois, la présence de catégories nouvelles supplémentaires dans le domaine cible a conduit au développement de l’adaptation de domaine ouverte (ODA) et de l’adaptation de domaine universelle (UNDA). Les méthodes existantes d’ODA et d’UNDA traitent toutes les catégories nouvelles comme une seule classe inconnue unifiée, en cherchant à les détecter durant l’entraînement. Cependant, nous avons constaté que la variance de domaine peut entraîner un bruit de vue accru dans les augmentations de données non supervisées, ce qui affecte l’efficacité de l’apprentissage contrastif (CL) et conduit le modèle à une surestimation de la découverte des nouvelles catégories. Pour résoudre ces problèmes, nous proposons un cadre nommé Réseau tout-en-un à apprentissage contrastif doux (SAN) pour les tâches d’ODA et d’UNDA. Le SAN intègre une nouvelle fonction de perte basée sur l’augmentation de données, appelée apprentissage contrastif doux (SCL), afin de raffiner le modèle principal pour une meilleure transfert de caractéristiques, ainsi qu’un classificateur plus intuitif pour l’humain, visant à améliorer la capacité de découverte des nouvelles classes. La fonction de perte SCL atténue les effets néfastes du bruit de vue généré par l’augmentation de données, problème amplifié dans les tâches de transfert de domaine. Le classificateur tout-en-un (AIO) surmonte le problème de surestimation caractéristique des classificateurs actuels, qu’ils soient fermés ou ouverts. Des expériences de visualisation et d’ablation démontrent l’efficacité des innovations proposées. En outre, les résultats étendus obtenus sur les tâches d’ODA et d’UNDA montrent que SAN surpasser les méthodes de pointe existantes.

Amélioration de la découverte de catégories nouvelles à travers des domaines grâce à l’apprentissage contrastif souple et à un classificateur tout-en-un | Articles de recherche récents | HyperAI