التنبؤ التكراري العميق لفك الشفرة للتعلم شبه المشرف

الطرق الحديثة الأكثر حداثة في التعلم العميق شبه المشرف (التعلم العميق شبه المشرف) استخدمت نموذجًا متشابهًا: استخدام توقعات الشبكة لتحديث العلامات الوهمية واستخدام العلامات الوهمية لتحديث معلمات الشبكة بشكل متكرر. ومع ذلك، فإن هذه الطرق تفتقر إلى الدعم النظري ولا يمكنها تفسير سبب كون التوقعات مرشحين جيدين للعلامات الوهمية. في هذا البحث، نقترح إطارًا مبدئيًا وشاملًا يُسمى "التعلم العميق الفك" (D2) لتطبيقات التعلم شبه المشرف. ضمن إطار D2، نثبت أن العلامات الوهمية مرتبطة بتوقعات الشبكة من خلال دالة ربط أسية، مما يوفر دعمًا نظريًا لاستخدام التوقعات كعلامات وهمية. علاوة على ذلك، نوضح أن تحديث العلامات الوهمية بواسطة توقعات الشبكة سيجعلها غير مؤكدة. للتخفيف من هذه المشكلة، نقترح استراتيجية تدريب تُسمى "التكرار المتكرر" (R2). أخيرًا، تم اختبار الطريقة المقترحة R2-D2 على مجموعة بيانات ImageNet الكبيرة الحجم وأظهرت تفوقها على أفضل الطرق الحالية بمقدار 5 نقاط مئوية.