تصنيف نقاط التحقق العصبية

يتعلق هذا البحث بترتيب العديد من الشبكات العصبية العميقة المدربة مسبقًا، والتي تُعرف بالنقاط المرجعية (Checkpoints)، لنقل التعلم إلى مهمة ثانوية. بفضل الاستخدام الواسع للشبكات العصبية العميقة، يمكننا جمع مئات النقاط المرجعية بسهولة من مصادر مختلفة. أي منها ينقل التعلم بشكل أفضل إلى مهمتنا الثانوية المطلوبة؟ في محاولة للإجابة على هذا السؤال بشكل شامل، قمنا بإنشاء مقاييس ترتيب نقاط التفتيش العصبية (NeuCRaB) ودراسة بعض المقاييس البديهية للترتيب. هذه المقاييس عامة، حيث يمكن تطبيقها على نقاط التفتيش ذات أنواع الإخراج المختلفة دون معرفة كيفية تدريب النقاط المرجعية على أي مجموعة بيانات. كما أنها تتطلب تكلفة حسابية منخفضة، مما يجعلها ذات أهمية عملية. تقترح نتائجنا أن القابلية الفصل الخطي للميزات المستخرجة بواسطة النقاط المرجعية هي مؤشر قوي على قابلية النقل. كما وصلنا إلى مقاييس ترتيب جديدة، وهي NLEEP، والتي أدت إلى أفضل الأداء في التجارب.