Les avancées récentes des transformateurs d’images ont obtenu des résultats remarquables, réduisant largement l’écart entre les architectures traditionnelles basées sur les réseaux de neurones convolutifs (CNN). La procédure standard consiste à entraîner sur de grandes bases de données telles qu’ImageNet-21k, puis à finetuner sur ImageNet-1k. Après cette étape de finetuning, les recherches examinent fréquemment la performance en apprentissage par transfert sur des jeux de données plus petits, comme CIFAR-10 ou CIFAR-100, mais ont généralement négligé Tiny ImageNet. Ce papier présente une mise à jour sur les performances des transformateurs visuels sur Tiny ImageNet. Nous étudions notamment le Vision Transformer (ViT), le Data Efficient Image Transformer (DeiT), le Class Attention in Image Transformer (CaiT) ainsi que les Swin Transformers. En outre, les Swin Transformers surpassent le résultat actuel de l’état de l’art avec une précision de validation atteignant 91,35 %. Le code est disponible à l’adresse suivante : https://github.com/ehuynh1106/TinyImageNet-Transformers