HyperAIHyperAI
il y a 17 jours

C-SFDA : Cadre d'apprentissage auto-entraîné aidé par l'apprentissage curriculaire pour une adaptation de domaine sans source efficace

Nazmul Karim, Niluthpol Chowdhury Mithun, Abhinav Rajvanshi, Han-pang Chiu, Supun Samarasekera, Nazanin Rahnavard
C-SFDA : Cadre d'apprentissage auto-entraîné aidé par l'apprentissage curriculaire pour une adaptation de domaine sans source efficace
Résumé

Les approches d’adaptation de domaine non supervisée (UDA) se concentrent sur l’adaptation de modèles entraînés sur un domaine source étiqueté vers un domaine cible non étiqueté. Les méthodes UDA reposent sur une hypothèse forte selon laquelle les données du domaine source sont accessibles pendant l’adaptation, ce qui peut s’avérer irréaliste dans de nombreux scénarios du monde réel en raison de préoccupations liées à la vie privée et de contraintes de ressources des dispositifs. À cet égard, l’adaptation de domaine sans source (SFDA) s’impose comme une solution privilégiée, puisqu’elle ne nécessite plus l’accès aux données du domaine source durant l’adaptation. Les méthodes les plus récentes et les plus performantes (SOTA) en SFDA se concentrent principalement sur l’amélioration des pseudo-étiquettes via un auto-entraînement, qui souffre généralement de deux limites : i) la présence inévitable de pseudo-étiquettes bruitées, pouvant entraîner une mémorisation prématurée pendant l’entraînement, ii) le processus d’amélioration nécessite le maintien d’un mémoire (memory bank), ce qui constitue une charge importante dans les environnements à ressources limitées. Pour relever ces défis, nous proposons C-SFDA, un cadre d’auto-entraînement assisté par apprentissage curriculaire pour le SFDA, permettant une adaptation efficace et fiable aux changements entre domaines grâce à une sélection de pseudo-étiquettes. Plus précisément, nous mettons en œuvre un schéma d’apprentissage curriculaire afin de favoriser l’apprentissage à partir d’un nombre restreint de pseudo-étiquettes sélectionnées selon leur fiabilité. Cette étape simple mais efficace permet de prévenir efficacement la propagation du bruit d’étiquette au cours des différentes phases de l’adaptation, tout en éliminant la nécessité d’un mécanisme coûteux basé sur une mémoire pour le raffinement des étiquettes. Nos évaluations expérimentales étendues sur des tâches de reconnaissance d’images et de segmentation sémantique confirment l’efficacité de notre méthode. C-SFDA est directement applicable à l’adaptation de domaine en temps réel (test-time adaptation) et surpasse les méthodes SOTA précédentes dans cette tâche.