HyperAIHyperAI

Command Palette

Search for a command to run...

Apprentissage à Partir de Peu d'Exemples par Adaptation d'Embedding avec des Fonctions Ensemble-vers-Ensemble

Han-Jia Ye* Nanjing University [email protected] Hexiang Hu USC [email protected] De-Chuan Zhan Nanjing University [email protected] Fei Sha† USC & Google [email protected]

Résumé

L'apprentissage avec des données limitées est un défi majeur pour la reconnaissance visuelle. De nombreuses méthodes d'apprentissage à partir de quelques exemples répondent à ce défi en apprenant une fonction d'embedding d'instances à partir de classes observées et en appliquant cette fonction à des instances de classes non observées avec des étiquettes limitées. Ce type d'apprentissage par transfert est agnostique en termes de tâche : la fonction d'embedding n'est pas apprise de manière optimalement discriminante par rapport aux classes non observées, où distinguer entre elles conduit à la tâche cible. Dans cet article, nous proposons une nouvelle approche pour adapter les embeddings d'instances à la tâche de classification cible grâce à une fonction ensemble-à-ensemble, produisant ainsi des embeddings spécifiques à la tâche et discriminants. Nous avons empiriquement examiné diversesinstanciations de telles fonctions ensemble-à-ensemble et constaté que le Transformer est le plus efficace -- car il satisfait naturellement les propriétés clés du modèle souhaité. Nous désignons ce modèle par FEAT (adaptation d'embedding à partir de quelques exemples avec Transformer) et le validons sur le banc d'essai standard d'apprentissage à partir de quelques exemples, ainsi que sur quatre configurations étendues d'apprentissage à partir de quelques exemples avec des cas d'utilisation essentiels, soit l'apprentissage inter-domaine, l'apprentissage transductif, l'apprentissage généralisé à partir de quelques exemples et l'apprentissage basé sur peu d'exemples. Il a obtenu des améliorations constantes par rapport aux modèles de base ainsi qu'aux méthodes précédentes et établi les nouveaux résultats de pointe sur deux bancs d'essai.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp