HyperAIHyperAI

Command Palette

Search for a command to run...

شافلي-ناس: اكتشاف مساهمة العمليات في البحث عن البنية العصبية

Han Xiao Ziwei Wang Zheng Zhu Jie Zhou Jiwen Lu

الملخص

في هذه الورقة، نقترح طريقة تعتمد على قيمة شابلي لتقييم مساهمة العمليات (Shapley-NAS) في عملية بحث الهياكل العصبية. تُحقّق طريقة بحث الهياكل القابلة للتفاضل (DARTS) الهياكل المثلى من خلال تحسين معاملات الهيكل باستخدام الانحدار التدريجي، مما يقلل بشكل كبير من تكلفة البحث. ومع ذلك، فإن حجم معاملات الهيكل التي يتم تحديثها بواسطة الانحدار التدريجي لا يُمكنه الكشف عن الأهمية الحقيقية للعمليات بالنسبة لأداء المهمة، وبالتالي يُضعف فعالية الهياكل الناتجة. على العكس، نقترح تقييم التأثير المباشر للعمليات على دقة التحقق. ولمعالجة العلاقات المعقدة بين مكونات الشبكة الفائقة (supernet)، نستخدم قيمة شابلي لقياس المساهمات الحدية للعناصر، مع أخذ جميع التوليفات الممكنة بعين الاعتبار. بشكل خاص، نُحسّن بشكل تكراري أوزان الشبكة الفائقة، ونُحدّث معاملات الهيكل من خلال تقييم مساهمات العمليات باستخدام قيمة شابلي، بحيث تُستخلص الهياكل المثلى من خلال اختيار العمليات التي تسهم بشكل ملحوظ في إنجاز المهام. وبما أن الحساب الدقيق لقيمة شابلي يُعد من المشكلات التي تُصنف ضمن فئة NP-صعبة، فإننا نستخدم خوارزمية تعتمد على عينات مونت كارلو مع قطع مبكر لتقريبها بكفاءة، كما نطبّق آلية التحديث بالزخم لتقليل التذبذبات الناتجة عن عملية الاستخلاص العشوائي. أظهرت التجارب الواسعة على مختلف مجموعات البيانات ومساحات البحث المختلفة أن Shapley-NAS يتفوّق على أحدث الطرق المطروحة بمقدار ملحوظ، مع تكلفة بحث خفيفة. يمكن الوصول إلى الشفرة المصدرية عبر الرابط: https://github.com/Euphoria16/Shapley-NAS.git


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp