HyperAIHyperAI
منذ 17 أيام

تَبْعِيدُ التَّمَاسُكِ الْمَرْتَبِطِ بَيْنَ الْمَرَاتِبِ لِتَشْخِيصِ عَلَامَاتِ الْمَسَارِ

Yuenan Hou, Zheng Ma, Chunxiao Liu, Tak-Wai Hui, Chen Change Loy
تَبْعِيدُ التَّمَاسُكِ الْمَرْتَبِطِ بَيْنَ الْمَرَاتِبِ لِتَشْخِيصِ عَلَامَاتِ الْمَسَارِ
الملخص

ندرس مشكلة استخلاص المعرفة من شبكة تعليمية كبيرة وعميقة (teacher network) إلى شبكة طالب أصغر بكثير (student network) في مهمة تقسيم علامات الطرق. في هذا العمل، نستكشف منهجًا جديدًا لاستخلاص المعرفة (Knowledge Distillation - KD) يمكنه نقل "المعرفة" المتعلقة بالهيكل السياقي بشكل أكثر فعالية من النموذج التعليمي إلى النموذج الطالب. يُعرف هذا المنهج بـ IntRA-KD (استخلاص المعرفة القائم على الترابط بين المناطق). حيث يقوم هذا الأسلوب بتفكيك صورة مشهد طريق معينة إلى مناطق مختلفة، ويمثل كل منطقة كعقدة في رسم بياني. ثم يُبنى رسم بياني للترابط بين المناطق عن طريق إقامة علاقات زوجية بين العقد بناءً على تشابه توزيع الميزات بينها. لتعلم المعرفة الهيكلية من النموذج التعليمي، يُطلب من النموذج الطالب أن يطابق الرسم البياني الذي يولده النموذج التعليمي. أظهر المنهج المقترح نتائج واعدة على ثلاث معايير كبيرة لتقسيم علامات الطرق، وهي: ApolloScape وCULane وLLAMAS، وذلك باستخدام نماذج خفيفة الوزن مختلفة كطلاب، وResNet-101 كنموذج تعليمي. وقد أدى IntRA-KD باستمرار إلى تحسينات أداء أعلى على جميع النماذج الخفيفة مقارنةً بالأساليب السابقة لاستخلاص المعرفة. يُمكن الوصول إلى الكود الخاص بنا عبر الرابط: https://github.com/cardwing/Codes-for-IntRA-KD.