HyperAIHyperAI

Command Palette

Search for a command to run...

Apprentissage méta PAC-Bayes avec des postérieurs implicites spécifiques aux tâches

Cuong Nguyen Thanh-Toan Do Gustavo Carneiro

Résumé

Nous introduisons un nouvel algorithme de méta-apprentissage PAC-Bayes rigoureusement formulé, conçu pour résoudre le problème de l’apprentissage en peu d’exemples (few-shot learning). Notre méthode étend le cadre PAC-Bayes, initialement défini pour une seule tâche, à un cadre de méta-apprentissage impliquant plusieurs tâches, afin d’établir une borne supérieure sur l’erreur évaluée sur n’importe quelle tâche, même non vue auparavant, ainsi que sur tout échantillon. Nous proposons également une approche générative pour estimer de manière plus expressive la postérieure des paramètres du modèle spécifiques à chaque tâche, en s’écartant de l’hypothèse classique reposant sur une distribution normale multivariée à matrice de covariance diagonale. Nous démontrons que les modèles entraînés avec notre algorithme de méta-apprentissage sont bien calibrés et précis, atteignant des résultats de pointe en termes de calibration et de classification sur des benchmarks de classification en peu d’exemples (mini-ImageNet et tiered-ImageNet) ainsi que sur des benchmarks de régression (régression sur une distribution multi-modale de tâches).


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp
Apprentissage méta PAC-Bayes avec des postérieurs implicites spécifiques aux tâches | Articles | HyperAI