منذ شهر واحد
النقل العكسي للانتشار الخلفي لتعلم فعال للشبكات العصبية التلافيفية العميقة
Li Shen; Zhouchen Lin; Qingming Huang

الملخص
في السنوات الأخيرة، أصبح تعلم شبكات العصبونات التلافيفية الأعمق ميلًا شائعًا. ومع ذلك، فإن العديد من الأدلة التجريبية تشير إلى أنه لا يمكن الحصول على تحسين في الأداء عن طريق مجرد إضافة المزيد من الطبقات. في هذا البحث، نعتبر هذه المشكلة من منظور نظري للمعلومات، ونقترح طريقة جديدة تسمى انتقال الانتشار العكسي (Relay Backpropagation)، والتي تشجع على انتشار المعلومات الفعالة عبر الشبكة أثناء مرحلة التدريب. بفضل هذه الطريقة، حققنا المركز الأول في تحدي تصنيف المشاهد لمسابقة ILSVRC 2015. أجريت تجارب واسعة النطاق على مجموعتين كبيرتين من البيانات الصعبة، مما يثبت أن فعالية طرحتنا ليست مقيدة بمجموعة بيانات معينة أو بنية شبكة معينة. سيتم توفير نماذجنا للمجتمع البحثي لاحقًا.