Apprentissage d’un équilibre entre spécificité et invariance pour la généralisation in-domain et out-of-domain

Nous introduisons les Masques Spécifiques de Domaine pour la Généralisation (Domain-specific Masks for Generalization), un modèle visant à améliorer à la fois les performances de généralisation à l’intérieur du domaine (in-domain) et en dehors du domaine (out-of-domain). Dans le cadre de la généralisation de domaine, l’objectif consiste à apprendre à partir d’un ensemble de domaines sources afin de produire un seul modèle capable de se généraliser au mieux à un domaine cible inconnu. Ainsi, de nombreuses approches antérieures se concentrent sur l’apprentissage de représentations qui sont présentes dans tous les domaines sources, sous l’hypothèse que ces représentations invariantes par rapport au domaine généraliseront efficacement. Toutefois, chaque domaine individuel contient souvent des caractéristiques uniques, dont l’exploitation peut considérablement améliorer les performances de reconnaissance à l’intérieur du domaine. Pour construire un modèle capable de se généraliser au mieux à la fois aux domaines observés et aux domaines inconnus, nous proposons d’apprendre des masques spécifiques à chaque domaine. Ces masques sont conçus pour équilibrer l’apprentissage de caractéristiques invariantes par rapport au domaine et de caractéristiques spécifiques à chaque domaine, permettant ainsi à un modèle de tirer parti du pouvoir prédictif des caractéristiques spécialisées tout en conservant l’universalité des caractéristiques invariantes. Nous démontrons des performances compétitives par rapport aux méthodes baselines naïves et aux approches de pointe sur les jeux de données PACS et DomainNet.