PC-DARTS: الاتصالات الجزئية للقنوات لبحث المعماريات الفعالة من حيث الذاكرة

قدمت تقنية البحث عن الهندسة المعمارية القابلة للمفاضلة (DARTS) حلاً سريعًا لإيجاد هياكل شبكة فعالة، لكنها عانت من استهلاك كبير للذاكرة والحساب عند تدريب شبكة سوبر مشتركة والبحث عن هندسة مثلى في آن واحد. في هذا البحث، نقدم طريقة جديدة تُسمى DARTS متصلة جزئيًا (Partially-Connected DARTS)، حيث نقوم بأخذ عينة صغيرة من الشبكة السوبر لخفض التكرار في استكشاف مجال الشبكة، مما يتيح إجراء بحث أكثر كفاءة دون المساس بالأداء. بشكل خاص، نقوم بالبحث عن العمليات في مجموعة فرعية من القنوات بينما نتجاوز الجزء المحتجز عبر مسار قصير (shortcut). قد تعاني هذه الاستراتيجية من عدم اتساق غير مرغوب فيه في اختيار حواف الشبكة السوبر بسبب أخذ عينات مختلفة من القنوات. نخفف هذا التأثير باستخدام تطبيع الحواف (edge normalization)، الذي يضيف مجموعة جديدة من المعلمات على مستوى الحافة لتقليل عدم اليقين في البحث. بفضل انخفاض تكلفة الذاكرة، يمكن تدريب PC-DARTS بحجم دفعة أكبر، وبالتالي يتمتع بكلاً من سرعة أسرع واستقرار تدريب أعلى. تظهر النتائج التجريبية فعالية الطريقة المقترحة. تحديدًا، حققنا معدل خطأ قدره 2.57% على CIFAR10 مع استخدام 0.1 يوم معالجة وحدة المعالجة الرسومية فقط للبحث عن الهندسة المعمارية، ومعدل خطأ رئيسي قياسي بلغ 24.2% على ImageNet (في الإعداد المحمول) باستخدام 3.8 أيام معالجة وحدة المعالجة الرسومية للبحث. تم توفير شفرتنا المصدر على الرابط التالي: https://github.com/yuhuixu1993/PC-DARTS.