HyperAIHyperAI
il y a 2 mois

Incertitude dans l'apprentissage meta modèle-agnostique utilisant l'inférence variationnelle

Cuong Nguyen; Thanh-Toan Do; Gustavo Carneiro
Incertitude dans l'apprentissage meta modèle-agnostique utilisant l'inférence variationnelle
Résumé

Nous présentons un nouvel algorithme de méta-apprentissage bayésien rigoureusement formulé qui apprend une distribution de probabilité du paramètre a priori du modèle pour l'apprentissage à partir de peu d'exemples. L'algorithme proposé utilise une inférence variationnelle basée sur les gradients pour déduire la distribution a posteriori des paramètres du modèle à une nouvelle tâche. Notre algorithme peut être appliqué à toute architecture de modèle et peut être mis en œuvre dans divers paradigmes d'apprentissage automatique, y compris la régression et la classification. Nous montrons que les modèles formés avec notre algorithme de méta-apprentissage proposé sont bien calibrés et précis, avec des résultats de calibration et de classification de pointe sur deux benchmarks d'apprentissage à partir de peu d'exemples (Omniglot et Mini-ImageNet), ainsi que des résultats compétitifs dans une régression de distribution multimodale de tâches.