SpinalNet: شبكة عصبية عميقة مع إدخال تدريجي

حققت الشبكات العصبية العميقة (DNNs) أداءً متميزًا في العديد من المجالات. ومع ذلك، فإن هذه الشبكات تتطلب وقتًا حاسوبيًا طويلًا، ودائماً ما يُتوقع منها تحقيق أداء أفضل بوقت حاسوبي أقل. لذلك، ندرس نظام الحس الجسدي البشري ونقوم بتصميم شبكة عصبية (SpinalNet) لتحقيق دقة أعلى مع عدد أقل من العمليات الحاسوبية. في الشبكات العصبية التقليدية، تتلقى الطبقات المخفية المدخلات من الطبقة السابقة، تطبق دالة التنشيط، ثم تنقل النتائج إلى الطبقة التالية. أما في SpinalNet المقترحة، فتتم تقسيم كل طبقة إلى ثلاثة أقسام: 1) قسم المدخلات، 2) القسم الوسيط، و3) قسم المخرجات. يتلقى قسم المدخلات لكل طبقة جزءًا من المدخلات. يتلقى القسم الوسيط لكل طبقة مخرجات القسم الوسيط للطبقة السابقة ومخرجات قسم المدخلات للطبقة الحالية. يصبح عدد الأوزان الواردة أقل بكثير من تلك الموجودة في DNNs التقليدية. يمكن استخدام SpinalNet أيضًا كطبقة متصلة بالكامل أو طبقة تصنيف في DNNs وتدعم كلًا من التعلم التقليدي والتعلم النقل. نلاحظ تخفيضًا كبيرًا في الأخطاء مع تكلفة حاسوبية أقل في معظم DNNs. حقق التعلم التقليدي على شبكة VGG-5 باستخدام طبقات تصنيف SpinalNet أداءً متميزًا (SOTA) على مجموعات البيانات QMNIST، Kuzushiji-MNIST، EMNIST (الحروف والأرقام والموزونة). حقق التعلم التقليدي باستخدام الأوزان الأولية التي تم تدريبها على ImageNet وطبقات تصنيف SpinalNet أداءً متميزًا (SOTA) على مجموعات البيانات STL-10، Fruits 360، Bird225، وCaltech-101. يمكن الوصول إلى البرامج النصية لـ SpinalNet المقترحة عبر الرابط التالي: https://github.com/dipuk0506/SpinalNet