HyperAIHyperAI

Command Palette

Search for a command to run...

Apprentissage des seuils de fusion et d'élagage de jetons pour les transformateurs visuels

Maxim Bonnaerens Joni Dambre

Résumé

Les transformers visuels ont démontré un succès remarquable dans une large gamme de tâches en vision par ordinateur ces dernières années. Cependant, leurs coûts computationnels élevés restent un obstacle significatif à leur déploiement pratique. En particulier, la complexité des modèles de transformers est quadratique par rapport au nombre de jetons d'entrée. Par conséquent, des techniques visant à réduire le nombre de jetons d'entrée nécessitant un traitement ont été proposées. Cet article introduit LTMP (Learned Thresholds Token Merging and Pruning), une nouvelle approche qui exploite les avantages combinés du regroupement et de l'élagage des jetons. LTMP utilise des modules de masquage à seuils appris qui déterminent dynamiquement quels jetons doivent être regroupés et quels doivent être élagués. Nous illustrons notre approche par des expériences exhaustives sur des transformers visuels pour la tâche de classification ImageNet. Nos résultats montrent que LTMP atteint une précision de pointe tout en réduisant les taux de compression, et ce avec seulement une seule époque d'affinage, ce qui est d'un ordre de grandeur plus rapide que les méthodes précédentes. Le code est disponible à l'adresse suivante : https://github.com/Mxbonn/ltmp .


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp
Apprentissage des seuils de fusion et d'élagage de jetons pour les transformateurs visuels | Articles | HyperAI