HyperAIHyperAI

Command Palette

Search for a command to run...

TADAM : Métrique adaptative dépendante de la tâche pour une apprentissage par few-shot amélioré

Boris N. Oreshkin Pau Rodriguez Alexandre Lacoste

Résumé

L'apprentissage à partir de quelques exemples (few-shot learning) est devenu essentiel pour produire des modèles capables de généraliser à partir d'un nombre limité d'exemples. Dans ce travail, nous identifions que l'échelonnage métrique et la conditionnement de tâche métrique sont importants pour améliorer les performances des algorithmes d'apprentissage à partir de quelques exemples. Notre analyse révèle qu'un échelonnage métrique simple modifie complètement la nature des mises à jour des paramètres des algorithmes d'apprentissage à partir de quelques exemples. L'échelonnage métrique apporte des améliorations allant jusqu'à 14 % en précision pour certaines métriques sur la tâche de classification 5-voies 5-exemples (5-way 5-shot) du mini-Imagenet. Nous proposons également une méthode simple et efficace pour conditionner un apprenant sur l'ensemble d'échantillons de la tâche, conduisant ainsi à l'apprentissage d'un espace métrique dépendant de la tâche. De plus, nous proposons et testons empiriquement une procédure d'optimisation pratique basée sur la co-formation aux tâches auxiliaires pour apprendre un espace métrique dépendant de la tâche. Le modèle d'apprentissage à partir de quelques exemples résultant, basé sur l'échelonnage métrique dépendant de la tâche, atteint l'état de l'art sur le mini-Imagenet. Nous confirmons ces résultats sur un autre ensemble de données d'apprentissage à partir de quelques exemples que nous introduisons dans cet article, basé sur CIFAR100. Notre code est disponible au public sur https://github.com/ElementAI/TADAM.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp