الحفاظ على التمييز والإنصاف في التعلم التدرجي للصف

تم تطبيق الشبكات العصبية العميقة (DNNs) في التعلم التدرجي للتصنيفات، والذي يهدف إلى معالجة المشكلات الشائعة في العالم الحقيقي المتعلقة بتعلم فئات جديدة بشكل مستمر. إحدى العيوب الرئيسية للشبكات العصبية العميقة القياسية هي تعرضها لـ"النسيان الكارثي". وتعتبر تقنية تبديد المعرفة (KD) تقنية شائعة الاستخدام لتخفيف هذه المشكلة. في هذه الورقة، نُظهر أنه يمكن فعلاً أن تساعد هذه التقنية النموذج على إنتاج نتائج أكثر تمييزاً ضمن الفئات القديمة. ومع ذلك، لا يمكنها تقليل المشكلة التي يميل فيها النموذج إلى تصنيف الكائنات ضمن فئات جديدة، مما يُخفي ويُحد من التأثير الإيجابي لـKD. لاحظنا أن عاملًا مهمًا يُسبب النسيان الكارثي هو التحيز العالي في أوزان الطبقة المتصلة بالكامل (FC) في النهاية أثناء التعلم التدرجي للتصنيفات. في هذه الورقة، نقترح حلًا بسيطًا وفعّالًا مستوحى من الملاحظات السابقة لمعالجة مشكلة النسيان الكارثي. أولاً، نستخدم تقنية تبديد المعرفة (KD) للحفاظ على التمييز داخل الفئات القديمة. ثم، لتعزيز العدالة بين الفئات القديمة والجديدة بشكل أكبر، نقترح تقنية تسمى "محاذاة الأوزان" (WA)، والتي تقوم بتصحيح الأوزان المتحيزة في الطبقة FC بعد انتهاء عملية التدريب العادية. على عكس الدراسات السابقة، لا تتطلب WA أي معاملات إضافية أو مجموعة تحقق مسبقة، حيث تعتمد على المعلومات المتوفرة في الأوزان المتحيزة نفسها. وقد تم تقييم الطريقة المقترحة على مجموعة بيانات ImageNet-1000 وImageNet-100 وCIFAR-100 تحت ظروف مختلفة. وأظهرت النتائج التجريبية أن الطريقة المقترحة قادرة على تخفيف النسيان الكارثي بشكل فعّال، وتحقيق أداءً متفوقًا بشكل كبير على الطرق الرائدة في المجال.