HyperAIHyperAI
منذ 12 أيام

استبدال المدرسين المؤقتين للفصل الدلالي شبه المراقب

استبدال المدرسين المؤقتين للفصل الدلالي شبه المراقب
الملخص

يُعد إطار المعلم-الطالب، الذي يُستخدم على نطاق واسع في التصنيف المعنوي شبه المُعلَّم، يعتمد بشكل رئيسي على المتوسط المرتبط أساليب التحديث (EMA) لتحديث أوزان معلم واحد بناءً على أوزان الطالب. ومع ذلك، فإن تحديثات EMA تثير مشكلة تتمثل في ترابط أوزان المعلم والطالب، مما يؤدي إلى عائق أداء محتمل. علاوة على ذلك، قد تتفاقم هذه المشكلة عند التدريب باستخدام تسميات أكثر تعقيدًا، مثل خرائط التصنيف، ولكن مع عدد قليل من البيانات المُعلَّمة. تقدّم هذه الورقة منهجًا بسيطًا وفعّالًا يُدعى Dual Teacher، والذي يستخدم معلمين مؤقتين اثنين بهدف تخفيف مشكلة الترابط بين المعلم والطالب. يعمل المعلمان المؤقتان بدورات متناوبة، ويتم تحسينهما تدريجيًا، مما يضمن باستمرار عدم اقتراب المعلم والطالب بشكل مفرط. وبشكل محدد، يتناوب المعلمان المؤقتان دوريًا على إنشاء التسميات الوهمية (pseudo-labels) لتدريب نموذج الطالب، مع الحفاظ على الخصائص المميزة لنموذج الطالب في كل دورة تدريبية. ونتيجة لذلك، يحقق Dual Teacher أداءً تنافسيًا على معايير PASCAL VOC وCityscapes وADE20K، مع زمن تدريب مُختصر بشكل ملحوظ مقارنة بالأساليب الرائدة حاليًا. علاوة على ذلك، نُظهر أن منهجنا لا يعتمد على نموذج معين، ويعمل بشكل متوافق مع النماذج القائمة على CNN والنموذج القائم على Transformer. يُمكن الوصول إلى الكود من خلال الرابط التالي: https://github.com/naver-ai/dual-teacher.

استبدال المدرسين المؤقتين للفصل الدلالي شبه المراقب | أحدث الأوراق البحثية | HyperAI