HyperAIHyperAI
منذ 2 أشهر

شبكة ماكس أوت المُعَمَّلة بالتطبيع الدُفْعي في الشبكة

Jia-Ren Chang; Yong-Sheng Chen
شبكة ماكس أوت المُعَمَّلة بالتطبيع الدُفْعي في الشبكة
الملخص

تقرير هذا البحث عن معمارية عميقة جديدة تُعرف بشبكة Maxout داخل شبكة (MIN)، والتي يمكن أن تعزز تمييز النموذج وتسهل عملية تجريد المعلومات داخل المجال المقبول. يعتمد الشبكة المقترحة على إطار الهيكل الذي طور حديثًا وهو شبكات داخل شبكات، والذي ينزلق مُقرب عام متعدد الطبقات (MLP) مع وحدات التصحيح لاستخلاص الخصائص. بدلاً من MLP، نستخدم MLP بـ Maxout لتعلم مجموعة متنوعة من دوال التنشيط الخطية القطعية ولحل مشكلة تلاشي التدرجات التي قد تحدث عند استخدام وحدات التصحيح. بالإضافة إلى ذلك، يتم تطبيق التطبيع الدفقي لخفض تشبع وحدات maxout من خلال تجهيز النموذج، ويتم استخدام الـ dropout لمنع الانطباع الزائد. أخيرًا، يتم استخدام تجميع الوسط في جميع طبقات التجميع لتقييد MLP بـ maxout بهدف تسهيل تجريد المعلومات في كل مجال مقبول مع تحمل تحول موقع الكائن. نظرًا لأن تجميع الوسط يحافظ على جميع الخصائص في الرقع المحلي، يمكن للنموذج MIN المقترح فرض قمع المعلومات غير ذات الصلة أثناء التدريب. أظهرت التجارب لدينا أفضل الأداء في تصنيف البيانات عندما تم تطبيق نموذج MIN على مجموعات البيانات MNIST وCIFAR-10 وCIFAR-100 وأداءً مماثلًا لمجموعة بيانات SVHN.

شبكة ماكس أوت المُعَمَّلة بالتطبيع الدُفْعي في الشبكة | أحدث الأوراق البحثية | HyperAI