Command Palette
Search for a command to run...
AsymmNet: نحو شبكات عصبية تلافيفية خفيفة جداً باستخدام مقاطع ضيقة غير متماثلة
AsymmNet: نحو شبكات عصبية تلافيفية خفيفة جداً باستخدام مقاطع ضيقة غير متماثلة
Haojin Yang Zhen Shen Yucheng Zhao
الملخص
لقد حققت الشبكات العصبية التلافيفية العميقة (CNN) نتائج مذهلة في مجموعة واسعة من التطبيقات. ومع ذلك، يظل استخدام هذه النماذج على الأجهزة المحمولة أو المدمجة أمرًا صعبًا بسبب القيود المفروضة على الذاكرة والموارد الحسابية. في الآونة الأخيرة، أصبحت كتلة التبديل العكسي (inverted residual block) الحل السائد في تصميم الهياكل الخاصة بالشبكات العصبية التلافيفية المدمجة. في هذه الدراسة، قمنا بتحليل شامل للمفاهيم التصميمية الحالية، وعادنا لاستكشاف الخصائص الوظيفية لاثنين من التحويلات النقطية (pointwise convolutions) داخل الكتل العكسية. واقترحنا تصميمًا جديدًا يُسمى "العنق غير المتماثل" (asymmetrical bottlenecks). وتحديدًا، قمنا بتعديل حجم التحويل النقطي الأول، وغَنَّمَّا تدفق المعلومات من خلال إعادة استخدام الميزات، ونقلنا الحسابات المُوفَّرة إلى التحويل النقطي الثاني. وبذلك، نستطيع تحسين الدقة بشكل إضافي دون زيادة العبء الحسابي. ويمكن استخدام العنق غير المتماثل كبديل مباشر للوحدات الحالية في الشبكات العصبية التلافيفية. وبالتالي، يمكننا إنشاء شبكة تُسمى AsymmNet من خلال تجميع هذه الوحدات بسهولة وفقًا لشروط عميقة وعرضية مناسبة. أظهرت التجارب الواسعة أن التصميم المقترح للوحدة أفضل من الكتل العنقية العكسية الأصلية في الشبكات المتنقلة، وخاصةً في الشبكات العصبية التلافيفية الفائقة الخفة التي تتراوح في نطاق أقل من 220 مليون عملية ضرب وجمع (MAdds). يُمكن الاطلاع على الكود المصدر عبر الرابط: https://github.com/Spark001/AsymmNet