HyperAIHyperAI
il y a 17 jours

CMT-DeepLab : Transformateurs de masques de regroupement pour la segmentation panoptique

Qihang Yu, Huiyu Wang, Dahun Kim, Siyuan Qiao, Maxwell Collins, Yukun Zhu, Hartwig Adam, Alan Yuille, Liang-Chieh Chen
CMT-DeepLab : Transformateurs de masques de regroupement pour la segmentation panoptique
Résumé

Nous proposons Clustering Mask Transformer (CMT-DeepLab), un cadre basé sur les transformateurs pour la segmentation panoptique conçu autour d'une approche de clustering. Ce modèle repense les architectures de transformateurs existantes utilisées pour la segmentation et la détection : CMT-DeepLab considère les requêtes d'objets comme des centres de clusters, qui jouent le rôle de groupement des pixels lors de l'application à la segmentation. Le clustering est calculé via une procédure itérative, en assignant d'abord les pixels aux clusters en fonction de leur affinité de caractéristiques, puis en mettant à jour les centres de clusters et les caractéristiques des pixels. L'ensemble de ces opérations constitue la couche Clustering Mask Transformer (CMT), qui génère une attention croisée plus dense et mieux alignée avec la tâche finale de segmentation. CMT-DeepLab améliore significativement les performances par rapport aux méthodes antérieures, avec une augmentation de 4,4 % en PQ, atteignant ainsi un nouveau record mondial de 55,7 % de PQ sur le jeu de test-dev du dataset COCO.