EagleEye: تقييم فرعي سريع للشبكة لاستخلاص الشبكة العصبية الفعّالة

تحديد الجزء المُعدٍ حسابيًا في شبكة عصبية عميقة (DNN) المُدرَّبة هو السؤال الرئيسي الذي تستهدفه خوارزميات التخفيف (pruning). حاولت العديد من الخوارزميات التنبؤ بأداء النموذج في الشبكات المُختصرة من خلال إدخال طرق تقييم مختلفة، لكنها إما غير دقيقة أو معقدة جدًا للاستخدام العام. في هذا العمل، نقدم خوارزمية تخفيف تُسمى EagleEye، حيث يتم تطبيق مكون تقييم بسيط وفعال يستند إلى التطبيع المُتكيف (adaptive batch normalization) للكشف عن ارتباط قوي بين الهياكل المختلفة للشبكات المُختصرة ودقتها النهائية. يُمكّن هذا الارتباط القوي من تحديد بسرعة المرشحين المُختصرة ذات أعلى إمكانية دقة دون الحاجة إلى تدريبهم فعليًا. كما أن هذا المكون عام ويمكن دمجه بسهولة لتحسين بعض خوارزميات التخفيف الحالية. حققت EagleEye أداءً أفضل من جميع الخوارزميات المُدرَّسة في تجاربنا. بشكل محدد، عند تخفيف MobileNet V1 وResNet-50، تفوقت EagleEye على جميع الطرق المُقارنة بنسبة تصل إلى 3.8٪. وحتى في التجارب الأصعب المتمثلة في تخفيف النموذج المدمج (compact) من MobileNet V1، تمكنت EagleEye من تحقيق أعلى دقة تبلغ 70.9٪ مع تقليل إجمالي العمليات بنسبة 50٪ (FLOPs). جميع نتائج الدقة هي دقة التصنيف ذات الرتبة الأولى (Top-1) على مجموعة بيانات ImageNet. تم توفير الشفرة المصدرية والنموذج للجمهور المفتوح عبر الرابط التالي: https://github.com/anonymous47823493/EagleEye.