التعلم المتناقض المعلمي

في هذه الورقة، نقترح تعلُّم التباين المُعلَّم بمعاملات (PaCo) لمعالجة التعرف على التوزيع الطويل الذيل. استنادًا إلى تحليل نظري، لاحظنا أن خسارة التباين المُعلَّم تميل إلى التحيُّز تجاه الفئات عالية التكرار، مما يزيد من صعوبة التعلم المتوازن. ولذلك، نُقدِّم مجموعة من المراكز القابلة للتعلم حسب الفئة، بوصفها مدخلات مُعلَّمة، بهدف إعادة التوازن من منظور تحسين. علاوةً على ذلك، نحلِّل خسارة PaCo في بيئة متوازنة. يُبيِّن تحليلنا أن PaCo يمكنها تكييف شدة دفع العينات من نفس الفئة لتقريبها بشكل تلقائي، مع زيادة عدد العينات التي تُسحب نحو مراكزها المقابلة، مما يُفيد التعلم من الأمثلة الصعبة. أظهرت التجارب على مجموعات بيانات CIFAR ذات التوزيع الطويل الذيل، وImageNet، وPlaces، وiNaturalist 2018، تفوّقًا جديدًا في مستوى الحالة الراهنة لمشكلة التعرف على التوزيع الطويل الذيل. وعلى مجموعة ImageNet الكاملة، تفوقت النماذج المدربة باستخدام خسارة PaCo على التعلُّم التبايني المُعلَّم عبر مختلف هيكلات ResNet، مثل نموذج ResNet-200 الذي حقق دقة أعلى في التصنيف الأول بنسبة 81.8%. يمكن الوصول إلى الكود الخاص بنا عبر الرابط التالي: https://github.com/dvlab-research/Parametric-Contrastive-Learning.