Les avancées récentes en apprentissage profond et en vision par ordinateur ont considérablement réduit les barrières à l’analyse automatisée des images médicales, permettant aux algorithmes de traiter des images sans étiquettes et d’améliorer leurs performances. Toutefois, les techniques existantes présentent des exigences computationnelles extrêmes et subissent une dégradation significative de leurs performances lorsque la taille du batch ou le nombre d’époques d’entraînement sont réduits. Ce papier présente Cross Architectural - Self Supervision (CASS), une nouvelle approche d’apprentissage auto-supervisé qui exploite simultanément les Transformers et les réseaux de neurones convolutifs (CNN). En comparaison avec les approches état-de-l’art existantes en apprentissage auto-supervisé, nous montrons empiriquement que les CNNs et Transformers entraînés avec CASS obtiennent en moyenne une amélioration de 3,8 % avec seulement 1 % de données étiquetées, de 5,9 % avec 10 % de données étiquetées, et de 10,13 % avec 100 % de données étiquetées, tout en nécessitant 69 % de temps en moins. Nous démontrons également que CASS est bien plus robuste aux variations de la taille du batch et du nombre d’époques d’entraînement. Notamment, l’un des jeux de données testés comprenait des coupes histopathologiques d’une maladie auto-immune, un contexte caractérisé par une faible disponibilité de données et largement sous-représenté dans le domaine de l’imagerie médicale. Le code est open source et disponible sur GitHub.