التنظيم باستخدام سالب وهمي للتعلم الذاتي المستمر

نقدّم إطارًا جديدًا يُعرف بـ"الانتظام الوهمي السلبي" (PNR) لتعلم ذاتي مستمر فعّال (CSSL). يعتمد إطار PNR على استخدام عينات سلبية وهمية ناتجة عن التكبير القائم على النموذج، بحيث تضمن أن التمثيلات الجديدة المُكتسبة لا تتعارض مع ما تم تعلمه سابقًا. وبشكل خاص، بالنسبة لأساليب التعلم التبايني القائمة على InfoNCE، نحدّد عينات سلبية وهمية متماثلة مستمدة من النموذج الحالي والنموذج السابق، ونستخدمها في كلا حدّي الخسارة الرئيسي والانتظام. علاوة على ذلك، نوسع هذه الفكرة لتشمل الأساليب غير التباينية التي لا تعتمد أصلاً على عينات سلبية. بالنسبة لهذه الأساليب، نعرّف العينة السلبية الوهمية بأنها الناتج المُخرَج من النموذج السابق عند معالجة نسخة مختلفة من العينة المرجعية (anchor sample)، ونطبّقها بشكل غير متماثل فقط في حدّ الخسارة الانتظامية. أظهرت النتائج التجريبية الواسعة أن إطار PNR يحقق أداءً من الدرجة الأولى في تعلم التمثيلات خلال التعلم الذاتي المستمر، من خلال تحقيق توازن فعّال بين المرونة (plasticity) والاستقرار (stability).