MViTv2 : Transformateurs Multiscales Améliorés pour la Classification et la Détection

Dans cet article, nous étudions les Transformers visuels multiscales (MViTv2) comme une architecture unifiée pour la classification d’images et de vidéos, ainsi que la détection d’objets. Nous proposons une version améliorée de MViT intégrant des embeddings positionnels relatifs décomposés et des connexions de pooling résiduelles. Nous instancions cette architecture en cinq tailles différentes et l’évaluons sur la classification ImageNet, la détection COCO et la reconnaissance vidéo Kinetics, où elle surpasser les travaux antérieurs. Nous comparons également l’attention par pooling de MViTv2 aux mécanismes d’attention par fenêtre, et montrons qu’elle obtient de meilleurs résultats en termes de précision par rapport à la charge de calcul. Sans recourir à des améliorations supplémentaires (« bells and whistles »), MViTv2 atteint des performances de pointe dans trois domaines : 88,8 % de précision sur la classification ImageNet, 58,7 boxAP sur la détection d’objets COCO, ainsi que 86,1 % sur la classification vidéo Kinetics-400. Le code et les modèles sont disponibles à l’adresse suivante : https://github.com/facebookresearch/mvit.