gSwin : Modèle vision MLP à portes avec structure hiérarchique à fenêtre décalée

Suite à leur succès dans le domaine du langage, les mécanismes d’attention auto-associative (transformer) ont récemment été adoptés dans le domaine de la vision par ordinateur, où ils ont également obtenu des résultats remarquables. Parallèlement, une autre approche, basée sur les perceptrons multicouches (MLP), est également explorée dans ce domaine. Ces architectures, distinctes des réseaux de neurones convolutifs traditionnels (CNN), attirent aujourd’hui un intérêt croissant, entraînant la proposition de nombreuses méthodes. En tant que solution combinant efficacité des paramètres, performance élevée, ainsi que localité et hiérarchie dans la reconnaissance d’images, nous proposons gSwin, une architecture qui fusionne les deux courants : le Swin Transformer et le gMLP (multi-têtes). Nous démontrons que gSwin atteint une précision supérieure sur trois tâches visionnelles — classification d’images, détection d’objets et segmentation sémantique — par rapport au Swin Transformer, tout en étant plus compacte en taille.