شبكات الضغط والتحفيز

العنصر المركزي في شبكات العصبونات التلافيفية (CNNs) هو مشغل التلفيف، الذي يمكّن الشبكات من بناء خصائص معلوماتية من خلال دمج المعلومات المكانية والمعلومات القنواتية داخل الحقول المستقبلة المحلية في كل طبقة. لقد تم تحقيق مجموعة واسعة من الأبحاث السابقة حول الجزء المكاني لهذه العلاقة، بحثًا عن تعزيز قوة التمثيل لشبكة CNN من خلال تحسين جودة الترميزات المكانية عبر هرميتها الخصائص. في هذا العمل، نركز بدلاً من ذلك على العلاقة القنواتية ونقترح وحدة معمارية جديدة، والتي نطلق عليها اسم "وحدة الضغط والتحفيز" (Squeeze-and-Excitation) (SE)، التي تقوم بإعادة ضبط استجابات الخصائص القنواتية بشكل تكيفي من خلال نمذجة الارتباطات بين القنوات بشكل صريح. نوضح أن هذه الوحدات يمكن تجميعها معًا لتشكيل هياكل SENet التي تعمم بشكل فعال للغاية على مختلف المجموعات البيانات. كما نظهر أن وحدات SE تجلب تحسينات كبيرة في الأداء للشبكات العصبونية التلافيفية الرائدة حاليًا بمقدار حسابي إضافي بسيط. شكلت شبكات الضغط والتحفيز الأساس لتقديمنا في مسابقة تصنيف ILSVRC 2017 والذي حصل على المركز الأول وخفض خطأ المرتبة الخامسة إلى 2.251٪، مما يتفوق على الفائز لعام 2016 بنسبة تحسن نسبية حوالي 25٪. يمكن الحصول على النماذج والكود من https://github.com/hujie-frank/SENet.