البحث المعماري العصبي التطوري المُرشد مع تقدير فعّال للأداء

تم تطبيق مناهج بحث البنية العصبية (NAS) بنجاح على المهام المرئية، حيث أظهرت نتائج ممتازة. ومع ذلك، تميل مناهج NAS إلى التعقيد، وتُظهر احتمالًا عالٍ للانخراط في حلول محلية (local minima) بمجرد أن تبدو الهياكل المُنتجة جيدة النتائج. تُقدّم هذه الورقة منهجية جديدة تُسمى GEA، تهدف إلى توجيه عملية بحث البنية العصبية. تعتمد GEA على توجيه عملية التطور من خلال استكشاف فضاء البحث، حيث يتم في مرحلة التهيئة إنشاء وتقييم عدة هياكل في كل جيل باستخدام مُقدّر خالي من النموذج (zero-proxy estimator)، مع تدريب وحفظ الهيكل الوحيد ذي التقييم الأعلى فقط لاستخدامه في الجيل التالي. ثم، تستمر GEA في استخلاص المعرفة حول فضاء البحث دون زيادة في التعقيد، من خلال إنشاء عدة هياكل فرعية (off-springs) من هيكل موجود في كل جيل. علاوةً على ذلك، تُجبر GEA على استغلال الهياكل الأفضل أداءً من خلال توليد الأجيال اللاحقة، في حين تُشجع الاستكشاف من خلال طفرات الهياكل الأصلية (الوالدة)، وتُفضّل الهياكل الأحدث على الأقدم. أظهرت النتائج التجريبية فعالية المنهج المقترح، كما أجريت دراسات تحليلية واسعة لتقييم أهمية المُعاملات المختلفة. وتبين النتائج أن GEA تحقق أفضل النتائج المُحققة حتى الآن على جميع مجموعات البيانات في مجموعات معايير NAS-Bench-101 وNAS-Bench-201 وTransNAS-Bench-101.