SelfReg: التعلم الذاتي للتنظيم المقارن لتحقيق التعميم بين المجالات

بشكل عام، يفترض بيئة التجربة للتعلم العميق أن تكون مجموعة البيانات التدريبية ومجموعة الاختبار مأخوذة من نفس التوزيع. ومع ذلك، في المواقف الحقيقية، قد يحدث اختلاف في التوزيع بين المجموعتين، وهو ما يعرف بالتحول النمطي (domain shift)، مما يصبح عاملًا رئيسيًا يعيق أداء تعميم النموذج. المجال البحثي لحل هذه المشكلة يُعرف بتعميم النطاق (domain generalization)، ويخفف من مشكلة التحول النمطي من خلال استخراج الخصائص الثابتة عبر النطاقات بشكل صريح أو ضمني. في الدراسات الحديثة، تم اقتراح نهج للتعميم النطقي يستند إلى التعلم التبايني (contrastive learning) وحقق أداءً عاليًا. تتطلب هذه الأساليب أخذ عينات من الأزواج السلبية. ومع ذلك، يعتمد الأداء الأساسي للتعلم التبايني على جودة وكثافة الأزواج السلبية. لمعالجة هذه المسألة، نقترح طريقة تنظيم جديدة للتعميم النطقي تستند إلى التعلم التبايني، وهي التنظيم الذاتي التبايني (SelfReg). يستخدم هذا النهج المقترح فقط الأزواج الإيجابية، وبالتالي فإنه يحل العديد من المشكلات التي تنتج عن أخذ عينات الأزواج السلبية. بالإضافة إلى ذلك، نقترح طبقة إخلال نطاق خاص بالفئات (CDPL)، والتي تجعل من الممكن تطبيق تعزيز mixup بكفاءة حتى عند استخدام الأزواج الإيجابية فقط. تظهر نتائج التجارب أن التقنيات التي تم دمجها في SelfReg ساهمت في الأداء بطريقة متوافقة. وفي المعيار الحديث DomainBed، أظهر الطريقة المقترحة أداءً مكافئًا للبدائل الرائدة التقليدية. يمكن الوصول إلى الكود في الرابط https://github.com/dnap512/SelfReg.