طالب مزدوج: كسر حدود المعلم في التعلم شبه المنظوم

في الآونة الأخيرة، حققت طرق التعلم شبه المشرف المستندة إلى الثبات (Consistency-based methods) نتائجًا رائدة في مجال التعلم شبه المشرف (Semi-Supervised Learning - SSL). تشمل هذه الطرق دائمًا دورين، نموذج معلم صريح أو ضمني ونموذج طالب، وتفرض عقوبة على التوقعات تحت مختلف الإرباك (perturbations) من خلال قيد الثبات (consistency constraint). ومع ذلك، فإن أوزان هذين الدورين مرتبطة بشكل وثيق، حيث أن المعلم في الأساس هو متوسط حركي أسي (Exponential Moving Average - EMA) للطالب. في هذا العمل، نوضح أن المعلم المرتبط بـ EMA يسبب عنق زجاجي في الأداء. لحل هذه المشكلة، نقدم مفهوم الطالبين المزدوجين (Dual Student)، الذي يستبدل المعلم بطالب آخر. كما نحدد مفهومًا جديدًا هو العينة المستقرة (stable sample)، مما يؤدي إلى تصميم قيد الاستقرار (stabilization constraint) لكي تكون هيكلتنا قابلة للتدريب. بالإضافة إلى ذلك، نناقش نوعين من المتغيرات لمETHODنا التي تحقق أداءً أعلى حتى. تظهر التجارب الواسعة أن طريقة عملنا تحسن الأداء التصنيفي بشكل كبير على عدة مقاييس رئيسية للتعلم شبه المشرف (SSL). تحديدًا، فإنها تقلل معدل الخطأ لنظام CNN ذو 13 طبقة من 16.84٪ إلى 12.39٪ على CIFAR-10 مع 1k من العلامات ومن 34.10٪ إلى 31.56٪ على CIFAR-100 مع 10k من العلامات. علاوة على ذلك، فإن طريقة عملنا تحقق أيضًا تحسينًا واضحًا في التكيف بين المجالات (domain adaptation).