التجزئة الفيشرية المجمعة لضغط الشبكة العميق العملي

تم دراسة ضغط الشبكة على نطاق واسع نظرًا لقدرته على تقليل تكاليف الذاكرة والحساب أثناء الاستدلال. ومع ذلك، نادرًا ما تعامل الطرق السابقة مع الهياكل المعقدة مثل الاتصالات المتبقية (residual connections) والانقسامات المجموعة (group convolution) أو الانقسام العميق (depth-wise convolution сети الشبكة الهرمية للسمات (feature pyramid network)، حيث تكون قنوات طبقات متعددة مترابطة وتحتاج إلى التقطيع في آن واحد. في هذا البحث، نقدم منهجية عامة لقطعة القناة يمكن تطبيقها على هياكل معقدة مختلفة. وبشكل خاص، نقترح خوارزمية تجميع الطبقات للكشف التلقائي عن القنوات المرتبطة. ثم نستنتج مقياسًا موحدًا يستند إلى معلومات فيشر لتقييم أهمية قناة فردية أو قنوات مترابطة. علاوة على ذلك، نلاحظ أن تسريع الاستدلال على وحدات معالجة الرسوميات (GPUs) يرتبط بشكل أكبر بتقليل الذاكرة بدلًا من تقليل عدد العمليات الحسابية (FLOPs)، وبالتالي نستخدم تقليل الذاكرة لكل قناة لتوحيد قياس الأهمية. يمكن استخدام منهجيتنا لقطع أي هيكل، بما في ذلك الهياكل التي تحتوي على قنوات مترابطة. أجرينا تجارب واسعة على العديد من الهياكل الأساسية، تشمل ResNet الكلاسيكية وResNeXt، وMobileNetV2 الصديقة للهواتف، وRegNet المستندة إلى التصميم التلقائي للشبكات (NAS)، في مهام التصنيف الصوري والكشف عن الكائنات، وهي الأخيرة التي لم تُدرَس بشكل كافٍ. وتوصلت النتائج التجريبية إلى أن منهجيتنا قادرة على قطع الشبكات المعقدة بشكل فعّال، مما يعزز سرعة الاستدلال دون التضحية بالدقة.