موديل زو: حَيَّةٌ تَتَمَوَّجُ تَدْرِيسًا مُتَّصِلًا

يدعو هذا البحث إلى أن يمكن للطرق المتعلّمة بشكل مستمر أن تستفيد من تقسيم قدرة المتعلم عبر نماذج متعددة. نستخدم نظرية التعلّم الإحصائي والتحليل التجريبي لإظهار كيفية تفاعل مهام متعددة مع بعضها البعض بطريقة غير بسيطة عند تدريب نموذج واحد عليها. يمكن أن تتحسن خطأ التعميم على مهمة معينة عند تدريبها مع مهام متماسكة، لكنه قد يتحسن أيضًا عند تدريبها مع مهام متضاربة. تُحفّز هذه النظرية طريقة تُدعى "مزرعة النماذج" (Model Zoo)، والتي تُستلهم من أبحاث التقوية (boosting)، وتُبنى من خلال نموّ مجموعة من النماذج الصغيرة، حيث يتم تدريب كل نموذج خلال فترة واحدة من التعلّم المستمر. نُظهر أن مزرعة النماذج تحقق مكاسب كبيرة في الدقة على مجموعة متنوعة من مسائل المعايير في التعلّم المستمر. يتوفر الكود على الرابط: https://github.com/grasp-lyrl/modelzoo_continual.