حل مشكلة عدم الكفاءة في تعلم التمثيل الذاتي

التعلم الذاتي (خاصة التعلم التضادي) جذب اهتمامًا كبيرًا بفضل إمكاناته الهائلة في تعلم تمثيلات تمييزية بطريقة غير مشرف عليها. على الرغم من النجاحات المعترف بها، تعاني الطرق الحالية للتعلم التضادي من كفاءة تعلم منخفضة للغاية، مثل الحاجة إلى حوالي عشر مرات أكثر من دورات التدريب مقارنة بالتعلم المشرف لتحقيق دقة مماثلة في التعرف. في هذا البحث، نكشف عن ظاهرتين متناقضتين في التعلم التضادي نسميهما مشكلتي التقسيم القليل والتقسيم الزائد، وهما العقبات الرئيسية أمام كفاءة التعلم. التقسيم القليل يعني أن النموذج لا يستطيع تعلم الاختلاف بين العينات داخل الفئات بكفاءة عندما تكون أزواج العينات السلبية المستخدمة في التعلم التضادي غير كافية لتمييز جميع فئات الأشياء الفعلية. أما التقسيم الزائد فيعني أن النموذج لا يستطيع تعلم الخصائص بكفاءة من أزواج العينات السلبية الزائدة، مما يجبر النموذج على تقسيم عينات من نفس الفئة الفعلية إلى فئات مختلفة. لتجاوز هذين المشكلتين معًا، نقترح إطار عمل جديد للتعلم الذاتي يستخدم خسارة ثلاثية مبتورة. بدقة، نستخدم خسارة ثلاثية تهدف إلى زيادة المسافة النسبية بين الزوج الإيجابي وأزواج الزوج السلبي لحل مشكلة التقسيم القليل؛ ونقوم ببناء الزوج السلبي باختيار عينة سلبية ممثلة من جميع العينات السلبية لتجنب مشكلة التقسيم الزائد، وهو ما يضمنه نموذج توزيع برنولي (Bernoulli Distribution). قمنا بتقييم إطار عملنا بشكل شامل في عدة مقاييس كبيرة (مثل ImageNet و SYSU-30k و COCO). أظهرت النتائج تفوق نموذجنا (مثل كفاءة التعلم) على أحدث الطرق الرائدة بفارق واضح. الكود متاح على الرابط: https://github.com/wanggrun/triplet .