منذ 2 أشهر
تحسين الخطوط الأساسية باستخدام التعلم التبايني بالزخم
Xinlei Chen; Haoqi Fan; Ross Girshick; Kaiming He

الملخص
التعلم غير المشرف بالمقارنة قد أظهر مؤخرًا تقدمًا مشجعًا، على سبيل المثال في إطار "Momentum Contrast" (MoCo) و "SimCLR". في هذه الملاحظة، نتحقق من فعالية تحسينين من تصميم "SimCLR" بتنفيذها في إطار "MoCo". وبفضل التعديلات البسيطة على "MoCo" - وهي استخدام رأس التحويل ذو الشبكة العصبية المتعددة الطبقات (MLP) والمزيد من زيادة البيانات - فقد وضعنا أسسًا أكثر قوة تتفوق على "SimCLR" ولا تتطلب دفعات تدريب كبيرة. نأمل أن يساهم هذا في جعل أحدث الأبحاث في مجال التعلم غير المشرف أكثر سهولة للوصول. سيتم نشر الكود مجانًا.