HyperAIHyperAI

Command Palette

Search for a command to run...

Apprentissage par transfert adaptatif au domaine avec des modèles spécialisés

Jiquan Ngiam Daiyi Peng Vijay Vasudevan Simon Kornblith Quoc V. Le Ruoming Pang

Résumé

Le transfert d'apprentissage est une méthode largement utilisée pour construire des modèles de vision par ordinateur performants. Dans cet article, nous étudions l'efficacité du transfert d'apprentissage en examinant comment le choix des données influence les performances. Nous constatons que plus de données pré-entraînées ne sont pas toujours bénéfiques et que les performances de transfert dépendent d'un choix judicieux des données pré-entraînées. Ces résultats sont importants compte tenu de la croissance continue des tailles des jeux de données. Nous proposons également un transfert d'apprentissage adaptatif au domaine, une méthode simple et efficace de pré-entraînement utilisant des poids d'importance calculés sur la base du jeu de données cible. Notre méthode pour calculer ces poids d'importance s'inspire des idées de l'adaptation de domaine, et nous montrons une application novatrice au transfert d'apprentissage. Nos méthodes obtiennent des résultats à l'état de l'art sur plusieurs jeux de données de classification fine et sont bien adaptées à une utilisation pratique.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp