استكشاف التنظيم الذاتي للتعلم المشرف والتعلم شبه المشرف

التطورات الحديثة في التعلم شبه المشرف أظهرت إمكانات هائلة في التغلب على أحد العقبات الرئيسية أمام نجاح خوارزميات التعلم الآلي الحديثة: الوصول إلى كميات ضخمة من البيانات التدريبية المصنفة من قبل البشر. كانت الخوارزميات السابقة التي تعتمد على تنظيم الاستقرار قادرة على استغلال وفرة البيانات غير المصنفة لإنتاج نتائج مثيرة للإعجاب في عدد من مقاييس التعلم شبه المشرف، حيث تقترب من أداء القواعد الأساسية المشرفة القوية باستخدام جزء صغير فقط من البيانات المصنفة المتاحة.في هذا العمل، نتحدى النجاح الطويل الأمد لتنظيم الاستقرار من خلال تقديم تنظيم ذاتي مشرف كأساس لدمج تمثيلات الخصائص الدلالية من البيانات غير المصنفة. نقوم بإجراء تجارب مقارنة واسعة النطاق لبيان فعالية التنظيم الذاتي المشرف في تصنيف الصور تحت الإشراف الكامل والشبه مشرف على مجموعات بيانات المقاييس SVHN وCIFAR-10 وCIFAR-100. نقدم نتيجتين رئيسيتين: (1) تحسين النماذج التي تم تكملتها بالتنظيم الذاتي المشرف بشكل كبير على تصنيفات الإشراف التقليدية دون الحاجة إلى بيانات غير مصنفة؛ (2) مع وجود البيانات غير المصنفة، تحقق نماذجنا أداءً شبه مشرف يتنافس مع أفضل النتائج السابقة ويتفوق عليها في العديد من الحالات.أخيرًا، يتمتع نموذجنا بفائدة عملية وهي أنه يمكن تدريبه بكفاءة بطريقة شاملة ولا يحتاج إلى أي معلمات فائقة إضافية لتuning لأفضل الأداء خارج مجموعة المعلمات القياسية المستخدمة لتدريب الشبكات العصبية. الرمز المرجعي والبيانات متوفرين على https://github.com/vuptran/sesemi.