EEEA-Net: بحث تطوري في البنية العصبية المبكرة

كانت أهداف هذه الدراسة هي البحث عن هياكل شبكات التعلم العميق التلافيفية (CNN) المناسبة لمعالجات الجهاز المُدمجة التي تمتلك موارد حوسبة محدودة، مع أداء بتكاليف منخفضة بشكل ملحوظ في عملية بحث هندسة الشبكة (NAS). تم تطوير خوارزمية جديدة تُسمى "تهيئة السكان المبكرة بالخروج المبكر" (EE-PI) للخوارزميات التطورية (EA) لتحقيق هذين الهدفين معًا. تعتمد خوارزمية EE-PI على تقليل العدد الإجمالي للبارامترات أثناء عملية البحث من خلال تصفية النماذج التي يقل عدد بارامتراتها عن الحد الأقصى المسموح به. ثم تقوم ببحث عن نموذج جديد لاستبدال النماذج التي يتجاوز عدد بارامتراتها هذا الحد، مما يؤدي إلى تقليل عدد البارامترات، واستهلاك الذاكرة المطلوب لتخزين النموذج، ووقت المعالجة، مع الحفاظ على نفس الأداء أو الدقة. وقد تم تقليل وقت البحث إلى 0.52 يوم من وحدة معالجة الرسومات (GPU)، وهي إنجاز كبير وذو أهمية كبيرة مقارنة بنتائج نماذج NAS الأخرى، مثل 4 أيام GPU باستخدام NSGA-Net، و3,150 يوم GPU باستخدام نموذج AmoebaNet، و2,000 يوم GPU باستخدام نموذج NASNet. بالإضافة إلى ذلك، تُنتج الشبكات الناتجة عن الخوارزمية التطورية بالخروج المبكر (EEEA-Nets) هياكل شبكات تتميز بأقل خطأ وتكلفة حوسبة مناسبة لمجموعة بيانات معينة، وتشكل فئة من خوارزميات الشبكات. وقد أظهرت تجاربنا استخدام EEEA-Net على مجموعات بيانات CIFAR-10 وCIFAR-100 وImageNet أن EEEA-Net حقق أقل معدل خطأ مقارنة بجميع النماذج الحالية في مجال NAS، بـ 2.46% على CIFAR-10، و15.02% على CIFAR-100، و23.8% على مجموعة بيانات ImageNet. علاوةً على ذلك، تم تنفيذ هذه البنية المعمارية لتمييز الصور في مهام أخرى مثل كشف الكائنات، والتقسيم الدلالي، وكشف النقاط المفتاحية، وقد تفوقت نسخة EEEA-Net-C2 على MobileNet-V3 في جميع هذه المهام المختلفة في تجاربنا. (يمكن الوصول إلى رمز الخوارزمية من خلال: https://github.com/chakkritte/EEEA-Net).