توسيع تحويل التشتت: الشبكات الهجينة العميقة

نستخدم شبكة التشتت كتوصيف عام وثابت للمراحل الأولى من شبكة عميقة مختلطة تحت إشراف. نوضح أن المراحل المبكرة ليست بالضرورة بحاجة إلى التعلم، مما يوفر أفضل النتائج حتى الآن باستخدام تمثيلات محددة مسبقًا مع القدرة على المنافسة مع الشبكات العصبية العميقة (CNN). استخدام سلسلة ضحلة من الالتفافات 1 × 1، والتي ترميز معاملات التشتت التي تتوافق مع نوافذ فضائية ذات أحجام صغيرة جدًا، يسمح لنا بتحقيق دقة AlexNet على مجموعة بيانات Imagenet ILSVRC2012. نثبت أن هذا الترميز المحلي يتعلم صراحة الثباتية بالنسبة للدورانات. عند الجمع بين شبكات التشتت وشبكة حديثة من نوع ResNet، نحقق خطأً في أعلى خمسة تصنيفات بنسبة 11.4% على مجموعة بيانات Imagenet ILSVRC2012، وهو ما يعادل بنية ResNet-18 بينما يتم استخدام فقط 10 طبقات. كما نجد أن الأطر المختلطة يمكن أن تحقق أداءً ممتازًا في نظام العينات الصغيرة، وتتفوق على نظيراتها من النهاية إلى النهاية، من خلال قدرتها على دمج الأولويات الهندسية. نوضح ذلك على مجموعات فرعية من مجموعة بيانات CIFAR-10 وعلى مجموعة بيانات STL-10.