DMT: التدريب المتبادل الديناميكي للتعلم شبه المراقب

تستخدم الطرق الحديثة للتعلم شبه المراقبة الفكرة الأساسية للإشراف الوهمي، وخاصةً أساليب التدريب الذاتي التي تُولِّد تسميات وهمية (pseudo labels). ومع ذلك، فإن هذه التسميات الوهمية غير موثوقة. غالبًا ما تعتمد أساليب التدريب الذاتي على موثوقية التنبؤات من نموذج واحد لتصفية التسميات الوهمية منخفضة الثقة، مما يترك وراءه أخطاء عالية الثقة ويُهدر العديد من التسميات الصحيحة منخفضة الثقة. في هذه الورقة، نشير إلى أن من الصعب على نموذج أن يصحح أخطاء نفسه. بدلًا من ذلك، فإن الاستفادة من عدم الاتفاق بين نماذج مختلفة يُعد عنصرًا حاسمًا في تحديد الأخطاء في التسميات الوهمية. وباستنادًا إلى هذا الرؤية الجديدة، نقترح تدريبًا متبادلًا بين نموذجين مختلفين باستخدام دالة خسارة مُعاد توزينها ديناميكيًا، يُسمى التدريب المتبادل الديناميكي (Dynamic Mutual Training - DMT). نقوم بقياس عدم الاتفاق بين النماذج من خلال مقارنة التنبؤات الناتجة عن نموذجين مختلفين، بهدف إعادة توزين الخسارة ديناميكيًا أثناء التدريب، حيث يشير عدم الاتفاق الأكبر إلى احتمال وجود خطأ، ويتوافق مع قيمة خسارة أقل. أظهرت التجارب الواسعة أداءً متميزًا على مستوى الحالة الحالية في كل من تصنيف الصور والتقسيم الدلالي (semantic segmentation). تم إتاحة الشفرات المصدرية لنا عبر الرابط: https://github.com/voldemortX/DST-CBC.