HyperAIHyperAI
منذ 18 أيام

تحسين البحث المعماري العصبي من خلال مزج خوارزمية FireFly مع تقييم بدون تدريب

{Pierre De Loor, Marlène Gilles, Alexis Nédélec, Nassim Mokhtari}
الملخص

تُستخدم خوارزميات بحث البنية العصبية (NAS) لأتمتة تصميم الشبكات العصبية العميقة. وغالبًا ما يكون العثور على أفضل بنية لمجموعة بيانات معينة عملية تستهلك وقتًا طويلاً، نظرًا لضرورة استكشاف عدد كبير من الشبكات وتقييمها بناءً على أدائها لاختيار الأنسب منها. في هذا العمل، نقترح مقياسًا جديدًا يستخدم مؤشر المسافة داخل المجموعة (ICD) لتقييم قدرة النموذج غير المدرب على التمييز بين البيانات، بهدف تقدير جودته بشكل تقريبي. كما نستخدم نسخة محسّنة من خوارزمية فراشة النار (FireFly)، والتي تتمتع بمرونة أكبر أمام مشكلة القيم المحلية القصوى مقارنةً بالخوارزمية الأساسية لفراشة النار، كأداة بحث للعثور على أفضل نموذج شبكة عصبية مُلائم لبيانات معينة. تُظهر النتائج التجريبية على مجموعات معايير NAS المختلفة أن المقياس المقترح يُعتبر صالحًا لتقييم كل من الشبكات العصبية التلافيفية (CNNs) والشبكات العصبية ذات الذاكرة الطويلة (RNNs)، وأن الخوارزمية المقترحة لفراشة النار يمكنها تحسين النتائج مقارنةً بالأساليب الحالية المُعتمدة على التدريب المجاني (training-free).