HyperAIHyperAI

Command Palette

Search for a command to run...

PC-DARTS: الاتصالات الجزئية للقنوات لبحث المعماريات الفعالة من حيث الذاكرة

Yuhui Xu Lingxi Xie Xiaopeng Zhang Xin Chen Guo-Jun Qi Qi Tian Hongkai Xiong

الملخص

قدمت تقنية البحث عن الهندسة المعمارية القابلة للمفاضلة (DARTS) حلاً سريعًا لإيجاد هياكل شبكة فعالة، لكنها عانت من استهلاك كبير للذاكرة والحساب عند تدريب شبكة سوبر مشتركة والبحث عن هندسة مثلى في آن واحد. في هذا البحث، نقدم طريقة جديدة تُسمى DARTS متصلة جزئيًا (Partially-Connected DARTS)، حيث نقوم بأخذ عينة صغيرة من الشبكة السوبر لخفض التكرار في استكشاف مجال الشبكة، مما يتيح إجراء بحث أكثر كفاءة دون المساس بالأداء. بشكل خاص، نقوم بالبحث عن العمليات في مجموعة فرعية من القنوات بينما نتجاوز الجزء المحتجز عبر مسار قصير (shortcut). قد تعاني هذه الاستراتيجية من عدم اتساق غير مرغوب فيه في اختيار حواف الشبكة السوبر بسبب أخذ عينات مختلفة من القنوات. نخفف هذا التأثير باستخدام تطبيع الحواف (edge normalization)، الذي يضيف مجموعة جديدة من المعلمات على مستوى الحافة لتقليل عدم اليقين في البحث. بفضل انخفاض تكلفة الذاكرة، يمكن تدريب PC-DARTS بحجم دفعة أكبر، وبالتالي يتمتع بكلاً من سرعة أسرع واستقرار تدريب أعلى. تظهر النتائج التجريبية فعالية الطريقة المقترحة. تحديدًا، حققنا معدل خطأ قدره 2.57% على CIFAR10 مع استخدام 0.1 يوم معالجة وحدة المعالجة الرسومية فقط للبحث عن الهندسة المعمارية، ومعدل خطأ رئيسي قياسي بلغ 24.2% على ImageNet (في الإعداد المحمول) باستخدام 3.8 أيام معالجة وحدة المعالجة الرسومية للبحث. تم توفير شفرتنا المصدر على الرابط التالي: https://github.com/yuhuixu1993/PC-DARTS.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp