Minimisation de l'entropie vs. Maximisation de la diversité pour l'adaptation de domaine

La minimisation de l’entropie est largement utilisée dans l’adaptation de domaine non supervisée (UDA). Toutefois, les travaux existants montrent que la minimisation de l’entropie seule peut conduire à des solutions triviales dégénérées. Dans cet article, nous proposons d’éviter de telles solutions triviales en introduisant par ailleurs la maximisation de la diversité. Afin d’atteindre le risque cible minimal possible pour l’UDA, nous démontrons que la maximisation de la diversité doit être soigneusement équilibrée avec la minimisation de l’entropie, un degré d’équilibre qui peut être contrôlé finement à l’aide d’une validation intégrée profonde de manière non supervisée. La méthode proposée, appelée maximisation de la diversité à entropie minimale (MEDM), peut être directement mise en œuvre par descente de gradient stochastique sans recourir à un apprentissage adversarial. Des résultats expérimentaux montrent que MEDM surpasse les méthodes de pointe sur quatre jeux de données populaires d’adaptation de domaine.