تعلم الشبكات البيزية النادرة مع إعادة تشغيل الخبرة الكاملة للتعلم المستمر

تهدف طرق التعلم المستمر (CL) إلى تمكين نماذج التعلم الآلي من تعلم مهام جديدة دون نسيان كارثي للمهام التي تم إتقانها سابقًا. غالبًا ما تحتفظ الطرق الحالية للتعلم المستمر بخزانة من العينات السابقة، أو تقوم بتقليص المعرفة، أو تستخدم تقنيات التنظيم لتحقيق هذا الهدف. ومع ذلك، فإنها لا تزال تعاني من التداخل بين المهام مما يؤدي إلى النسيان الكارثي. لتحسين هذه المشكلة، نقترح تنشيط واختيار نورونات نادرة فقط لتعلم المهام الحالية والماضية في أي مرحلة. يمكن بذلك حجز المزيد من المساحة المعاملية وقدرة النموذج للمهام المستقبلية. هذا يقلل من التداخل بين المعاملات الخاصة بالمهام المختلفة. لتحقيق ذلك، نقترح استخدام شبكة عصبية نادرة للتعلم المستمر (SNCL)، والتي تطبق أولويات الندرة البيزية المتغيرة على تنشيطات النورونات في جميع الطبقات. يوفر إعادة تشغيل الخبرة الكاملة (FER) إشرافًا فعالًا في تعلم تنشيطات النورونات النادرة في الطبقات المختلفة. تم تطوير استراتيجية عينة خزانة واعية للخسارة لحفظ ذاكرة الخزانة. الطريقة المقترحة غير معتمدة على هياكل الشبكة أو حدود المهام. أظهرت التجارب على مجموعات بيانات مختلفة أن طريقتنا تحقق أداءً رائدًا في التخفيف من مشكلة النسيان.