Distillation d’affinité inter-région pour la segmentation des marquages routiers

Nous étudions le problème de la distillation de connaissances à partir d’un modèle enseignant profond et volumineux vers un modèle élève beaucoup plus léger, dans le cadre de la segmentation des marquages routiers. Dans ce travail, nous explorons une nouvelle approche de distillation de connaissances (KD) capable de transférer de manière plus efficace les « connaissances » relatives à la structure scénique du modèle enseignant vers le modèle élève. Notre méthode, nommée Inter-Region Affinity KD (IntRA-KD), décompose une image scénique donnée en différentes régions, représentant chaque région par un nœud dans un graphe. Un graphe d’affinité inter-régions est ensuite construit en établissant des relations par paires entre les nœuds en fonction de leur similarité dans la distribution des caractéristiques. Afin d’apprendre les connaissances structurelles provenant du modèle enseignant, le modèle élève doit reproduire la structure du graphe généré par l’enseignant. La méthode proposée obtient des résultats prometteurs sur trois grands jeux de données pour la segmentation des marquages routiers : ApolloScape, CULane et LLAMAS, en utilisant divers modèles légers comme élèves et ResNet-101 comme enseignant. IntRA-KD apporte systématiquement des gains de performance supérieurs par rapport aux méthodes de distillation antérieures, sur tous les modèles légers testés. Le code source est disponible à l’adresse suivante : https://github.com/cardwing/Codes-for-IntRA-KD.