Apprentissage de représentations lisses pour l'adaptation de domaine non supervisée

Les méthodes typiques d'adaptation de domaine non supervisée basées sur l'entraînement adversarial sont vulnérables lorsque les ensembles de données source et cible sont très complexes ou présentent une grande disparité dans leurs distributions de données. Récemment, plusieurs méthodes basées sur des contraintes de Lipschitz ont été explorées. Le respect de la continuité de Lipschitz garantit une performance remarquable sur le domaine cible. Cependant, elles manquent d'une analyse mathématique détaillée expliquant pourquoi une contrainte de Lipschitz est bénéfique pour l'adaptation de domaine non supervisée et se montrent généralement inefficaces sur des ensembles de données à grande échelle. Dans cet article, nous approfondissons le principe d'utilisation d'une contrainte de Lipschitz en discutant de son influence sur la borne d'erreur de l'adaptation de domaine non supervisée. Nous établissons un lien entre ces deux concepts et présentons une illustration montrant comment la propriété de Lipschitz réduit la borne d'erreur. Une disparité locale lisse est définie pour mesurer la lipschitzianité d'une distribution cible de manière ponctuelle. Lors de la construction d'un modèle profond end-to-end, pour assurer l'efficacité et la stabilité de l'adaptation de domaine non supervisée, trois facteurs critiques sont pris en compte dans notre stratégie d'optimisation proposée : le nombre d'échantillons du domaine cible, la dimension et la taille des lots (batchsize) des échantillons. Les résultats expérimentaux montrent que notre modèle se comporte bien sur plusieurs benchmarks standards. Notre étude ablationnelle démontre que le nombre d'échantillons du domaine cible, ainsi que la dimension et la taille des lots (batchsize) des échantillons, ont un impact significatif sur la capacité des méthodes basées sur les contraintes de Lipschitz à traiter des ensembles de données à grande échelle. Le code est disponible à l'adresse suivante : https://github.com/CuthbertCai/SRDA.