HyperAIHyperAI
منذ 18 أيام

فعالية NAS صفرية المُحاكاة القائمة على التنبؤ العصبي

Minh Le, Nhan Nguyen, Ngoc Hoang Luong
فعالية NAS صفرية المُحاكاة القائمة على التنبؤ العصبي
الملخص

في البحث المعماري العصبي القائم على التنبؤ (NAS)، أظهرت مؤشرات الأداء المستمدة من الشبكات التلافيفية الرسومية نجاحًا ملحوظًا. هذه المؤشرات، التي تُحقَّق من خلال تمثيل الهياكل المُقدَّمة أمامًا كرسوم بيانية مكوّنة باستخدام الترميز الـ one-hot، تواجه قيدًا: عدم قدرتها على تقييم أداء الهيكل عبر فضاءات بحث متفاوتة. في المقابل، تُظهر مؤشرات الأداء اليدوية (Zero-shot NAS)، التي تستخدم نفس البنية مع مُبادئ تهيئة عشوائية، قدرة على التعميم عبر عدة فضاءات بحث. وللتغلب على هذا القيد، نقترح منهجية جديدة للبحث المعماري العصبي الصفر-مُلاحظ (Zero-shot NAS) باستخدام التعلم العميق. تعتمد طريقةنا على ترميز مجموع جيوب الجيب (Fourier sum of sines) للنوى التلافيفية، مما يمكّن من بناء رسم بياني حسابي مُقدَّم أمامًا له بنية مشابهة للهيكل المُقيَّم. ويُعد هذا الترميز قابلاً للتعلم، ويوفر رؤية شاملة لمعلومات البنية الشبكية (الهيكلية) للهيكل. ثم يقوم بعدها معالج متعدد الطبقات (MLP) بتصنيف هذه الهياكل بناءً على ترميزاتها. أظهرت النتائج التجريبية أن منهجيتنا تتفوّق على الطرق السابقة المستخدمة للشبكات التلافيفية الرسومية من حيث الارتباط على مجموعة بيانات NAS-Bench-201، كما تُظهر معدل تقارب أعلى. علاوةً على ذلك، فإن تمثيل الميزات المستخرجة من خلال تدريبها على كل بenchmark لـ NAS قابل للنقل إلى ب benchmarks أخرى لـ NAS، ما يُظهر إمكانات تعميم واعدة عبر فضاءات بحث متعددة. يمكن الاطلاع على الكود عبر الرابط التالي: https://github.com/minh1409/DFT-NPZS-NAS

فعالية NAS صفرية المُحاكاة القائمة على التنبؤ العصبي | أحدث الأوراق البحثية | HyperAI