HyperAIHyperAI

Command Palette

Search for a command to run...

طالب مزدوج: كسر حدود المعلم في التعلم شبه المنظوم

Zhanghan Ke; Daoye Wang; Qiong Yan; Jimmy Ren; Rynson W.H. Lau

الملخص

في الآونة الأخيرة، حققت طرق التعلم شبه المشرف المستندة إلى الثبات (Consistency-based methods) نتائجًا رائدة في مجال التعلم شبه المشرف (Semi-Supervised Learning - SSL). تشمل هذه الطرق دائمًا دورين، نموذج معلم صريح أو ضمني ونموذج طالب، وتفرض عقوبة على التوقعات تحت مختلف الإرباك (perturbations) من خلال قيد الثبات (consistency constraint). ومع ذلك، فإن أوزان هذين الدورين مرتبطة بشكل وثيق، حيث أن المعلم في الأساس هو متوسط حركي أسي (Exponential Moving Average - EMA) للطالب. في هذا العمل، نوضح أن المعلم المرتبط بـ EMA يسبب عنق زجاجي في الأداء. لحل هذه المشكلة، نقدم مفهوم الطالبين المزدوجين (Dual Student)، الذي يستبدل المعلم بطالب آخر. كما نحدد مفهومًا جديدًا هو العينة المستقرة (stable sample)، مما يؤدي إلى تصميم قيد الاستقرار (stabilization constraint) لكي تكون هيكلتنا قابلة للتدريب. بالإضافة إلى ذلك، نناقش نوعين من المتغيرات لمETHODنا التي تحقق أداءً أعلى حتى. تظهر التجارب الواسعة أن طريقة عملنا تحسن الأداء التصنيفي بشكل كبير على عدة مقاييس رئيسية للتعلم شبه المشرف (SSL). تحديدًا، فإنها تقلل معدل الخطأ لنظام CNN ذو 13 طبقة من 16.84٪ إلى 12.39٪ على CIFAR-10 مع 1k من العلامات ومن 34.10٪ إلى 31.56٪ على CIFAR-100 مع 10k من العلامات. علاوة على ذلك، فإن طريقة عملنا تحقق أيضًا تحسينًا واضحًا في التكيف بين المجالات (domain adaptation).


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp