شبكات البقايا من شبكات البقايا: شبكات بقايا متعددة المستويات

تسيطر عائلة الشبكات المتبقية ذات المئات أو حتى الآلاف من الطبقات على مهام التعرف على الصور الرئيسية، ولكن بناء شبكة ببساطة عن طريق تراكيب الكتل المتبقية يحد حتماً من قدرتها على التحسين. يقترح هذا البحث هندسة شبكة متبقية جديدة، وهي شبكات متبقية من شبكات متبقية (RoR)، لاستكشاف قدرة الشبكات المتبقية على التحسين. تقوم RoR بتعويض تحسين الخريطة المتبقية للخريطة المتبقية عن تحسين الخريطة المتبقية الأصلية. بشكل خاص، تضيف RoR اتصالات مباشرة مستوية فوق الشبكات المتبقية الأصلية لتعزيز قدرة التعلم للشبكات المتبقية. وأكثر أهمية من ذلك، يمكن تطبيق RoR على أنواع مختلفة من الشبكات المتبقية (ResNets، Pre-ResNets و WRN) وتحسين أدائها بشكل كبير. أظهرت تجاربنا فعالية وتنوع RoR، حيث حققت أفضل الأداء في جميع الهياكل المشابهة للشبكات المتبقية. حققت نماذج RoR-3-WRN58-4+SD نتائج جديدة رائدة في مجموعات بيانات CIFAR-10، CIFAR-100 و SVHN، بمعدلات خطأ اختبار 3.77٪، 19.73٪ و 1.59٪ على التوالي. كما حققت نماذج RoR-3 أفضل النتائج مقارنة بشبكات ResNets في مجموعة بيانات ImageNet.