TADAM : Métrique adaptative dépendante de la tâche pour une apprentissage par few-shot amélioré

L'apprentissage à partir de quelques exemples (few-shot learning) est devenu essentiel pour produire des modèles capables de généraliser à partir d'un nombre limité d'exemples. Dans ce travail, nous identifions que l'échelonnage métrique et la conditionnement de tâche métrique sont importants pour améliorer les performances des algorithmes d'apprentissage à partir de quelques exemples. Notre analyse révèle qu'un échelonnage métrique simple modifie complètement la nature des mises à jour des paramètres des algorithmes d'apprentissage à partir de quelques exemples. L'échelonnage métrique apporte des améliorations allant jusqu'à 14 % en précision pour certaines métriques sur la tâche de classification 5-voies 5-exemples (5-way 5-shot) du mini-Imagenet. Nous proposons également une méthode simple et efficace pour conditionner un apprenant sur l'ensemble d'échantillons de la tâche, conduisant ainsi à l'apprentissage d'un espace métrique dépendant de la tâche. De plus, nous proposons et testons empiriquement une procédure d'optimisation pratique basée sur la co-formation aux tâches auxiliaires pour apprendre un espace métrique dépendant de la tâche. Le modèle d'apprentissage à partir de quelques exemples résultant, basé sur l'échelonnage métrique dépendant de la tâche, atteint l'état de l'art sur le mini-Imagenet. Nous confirmons ces résultats sur un autre ensemble de données d'apprentissage à partir de quelques exemples que nous introduisons dans cet article, basé sur CIFAR100. Notre code est disponible au public sur https://github.com/ElementAI/TADAM.