منذ 17 أيام
DARTS-PRIME: الت régularisation وجدولة تحسّن التحسين المقيد في التصميم المُختلفَّل للشبكات العصبية
Kaitlin Maile, Erwan Lecarpentier, Hervé Luga, Dennis G. Wilson

الملخص
يُعدّ البحث المُمكن تفاضليًا في الهياكل العصبية (DARTS) طريقة حديثة لاستكشاف الهياكل العصبية (NAS) تعتمد على تبسيط تفاضلي. وبسبب نجاحها، تم مؤخرًا اقتراح العديد من التحويرات التي تحلل وتحسّن جوانب مختلفة من إطار DARTS. وباعتبار المشكلة كمُشكلة تحسين ثنائي المستويات مُقيّدة، نقدّم ونحلّل DARTS-PRIME، وهو تحوير يشمل تحسينات في جدول تحديث الأوزان المعمارية وتنظيمها نحو التفكيك. ونُقدّم جدولًا ديناميكيًا يعتمد على معلومات الشبكة لكل مجموعة فرعية (minibatch) لجعل تحديثات الهيكل أكثر استنارة، بالإضافة إلى تنظيم القرب (proximity regularization) لتعزيز التفكيك المُفصّل. تُظهر نتائجنا في عدة مجالات أن DARTS-PRIME يُحسّن الأداء والموثوقية مع تحقيق أداء مُماثل لأفضل النماذج الحالية في مجال البحث المُمكن تفاضليًا في الهياكل العصبية.