HyperAIHyperAI

Command Palette

Search for a command to run...

HyperShot : Apprentissage peu supervisé par des HyperRéseaux à noyaux

Marcin Sendera Marcin Przewięźlikowski Konrad Karanowski Maciej Zięba Jacek Tabor Przemysław Spurek

Résumé

Les modèles few-shot visent à effectuer des prédictions à l’aide d’un nombre minimal d’exemples étiquetés provenant d’une tâche donnée. Le défi principal dans ce domaine réside dans le cadre one-shot, où un seul exemple représente chaque classe. Nous proposons HyperShot, une fusion entre les noyaux (kernels) et le paradigme des hyperréseaux. Contrairement aux approches de référence qui procèdent à un ajustement basé sur les gradients des paramètres, notre modèle vise à modifier dynamiquement les paramètres du module de classification en fonction de l’embedding de la tâche. En pratique, nous utilisons un hyperréseau qui prend en entrée l’information agrégée provenant des exemples de support et renvoie les paramètres du classificateur spécifiquement conçus pour la tâche considérée. En outre, nous introduisons une représentation basée sur les noyaux des exemples de support, fournie à l’hyperréseau afin de générer les paramètres du module de classification. Ainsi, notre approche repose sur les relations entre les embeddings des exemples de support, plutôt que sur les valeurs de caractéristiques directes fournies par les modèles de base (backbone). Grâce à cette stratégie, notre modèle parvient à s’adapter efficacement à des tâches très différentes.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp
HyperShot : Apprentissage peu supervisé par des HyperRéseaux à noyaux | Articles | HyperAI