HyperAIHyperAI

Command Palette

Search for a command to run...

Adaptation non supervisée multi-cible par distillation de connaissances

L.T. Nguyen-Meidine A. Belal M. Kiran J. Dolz L-A. Blais-Morin E. Granger

Résumé

L'adaptation de domaine non supervisée (UDA) vise à atténuer le problème de décalage de domaine entre la distribution des données non étiquetées du domaine cible et celle des données étiquetées du domaine source. Bien que le scénario d'UDA à une seule cible soit bien étudié dans la littérature, l'adaptation de domaine multi-cible (MTDA) reste largement inexplorée malgré son importance pratique, par exemple dans les applications de vidéosurveillance multi-caméras. Le problème de MTDA peut être abordé en adaptant un modèle spécialisé par domaine cible, mais cette solution est trop coûteuse dans de nombreuses applications réelles. Une approche consistant à mélanger plusieurs cibles pour la MTDA a été proposée, mais cette solution peut entraîner une réduction de la spécificité et de la précision du modèle. Dans cet article, nous proposons une nouvelle approche d'adaptation de domaine multi-cible non supervisée (MTDA) pour former un CNN capable de généraliser efficacement sur plusieurs domaines cibles. Notre méthode Multi-Teacher MTDA (MT-MTDA) repose sur la distillation de connaissances multi-enseignant (KD) pour distiller itérativement les connaissances des domaines cibles provenant de plusieurs enseignants vers un élève commun. Le processus KD est effectué progressivement, où l'élève est formé par chaque enseignant sur la façon d'effectuer l'UDA pour une cible spécifique, plutôt que d'apprendre directement des caractéristiques adaptées au domaine. Enfin, au lieu de combiner les connaissances provenant de chaque enseignant, MT-MTDA alterne entre les enseignants qui distillent les connaissances, préservant ainsi la spécificité de chaque cible (enseignant) lorsqu'il s'agit d'apprendre à s'adapter à l'élève. MT-MTDA est comparée aux méthodes les plus avancées sur plusieurs benchmarks UDA difficiles, et les résultats empiriques montrent que notre modèle proposé peut fournir un niveau considérablement plus élevé de précision sur plusieurs domaines cibles. Notre code est disponible à : https://github.com/LIVIAETS/MT-MTDA


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp