HyperAIHyperAI
il y a 2 mois

KDAS : Cadre de distillation de connaissances par supervision de l'attention pour la segmentation des polypes

Quoc-Huy Trinh; Minh-Van Nguyen; Phuoc-Thao Vo Thi
KDAS : Cadre de distillation de connaissances par supervision de l'attention pour la segmentation des polypes
Résumé

La segmentation des polypes, un sujet controversé en imagerie médicale, a vu de nombreuses méthodes proposées visant à améliorer la qualité des masques segmentés. Bien que les techniques actuelles de pointe produisent des résultats impressionnants, la taille et le coût computationnel de ces modèles posent des défis pour leur application pratique dans l'industrie. Pour répondre à ce défi, nous présentons KDAS, un cadre de distillation de connaissances qui intègre une supervision par l'attention, ainsi que notre module de guidage symétrique proposé. Ce cadre est conçu pour faciliter la création d'un modèle étudiant compact avec moins de paramètres, lui permettant d'apprendre les forces du modèle enseignant et d'atténuer l'incohérence entre les caractéristiques de l'enseignant et celles de l'étudiant, un défi courant en distillation de connaissances, grâce au module de guidage symétrique. À travers des expériences approfondies, nos modèles compacts démontrent leur efficacité en obtenant des résultats compétitifs avec les méthodes de pointe, offrant une approche prometteuse pour créer des modèles compacts avec une haute précision pour la segmentation des polypes et dans le domaine de l'imagerie médicale. L'implémentation est disponible sur https://github.com/huyquoctrinh/KDAS.