البحث المُميَّز في البنية المعمارية باستخدام الميزات العشوائية

أدى البحث المُمكن التفاضلية في البنية (DARTS) إلى تطور كبير في تقنيات البحث عن الهياكل (NAS) بفضل كفاءته العالية وفعاليته، لكنه يعاني من مشكلة انهيار الأداء. في هذا البحث، نسعى إلى تخفيف مشكلة انهيار الأداء في DARTS من جهتين. أولاً، نستعرض القوة التعبيرية للشبكة الفائقة (supernet) في DARTS، ثم نستنتج إعدادًا جديدًا لمنصة DARTS يتضمن تدريبًا فقط لـ BatchNorm. ثانيًا، نجد نظريًا أن الميزات العشوائية تُضعف دور الاتصال المُساعِد (skip-connection) في تحسين الشبكة الفائقة، مما يُمكّن خوارزمية البحث من التركيز على اختيار العمليات بشكل أكثر عدالة، وبالتالي حل مشكلة انهيار الأداء. نُطبّق DARTS وPC-DARTS باستخدام ميزات عشوائية لبناء نسخ محسّنة لكل منهما تُسمى على التوالي RF-DARTS وRF-PC-DARTS. تُظهر النتائج التجريبية أن RF-DARTS تحقق دقة اختبار قدرها \textbf{94.36\%} على CIFAR-10 (وهي النتيجة الأقرب إلى المثالية في NAS-Bench-201)، كما تحقق أحدث نتائج متفوقة على ImageNet بخطأ اختبار ذا الرتبة الأولى قدره \textbf{24.0\%} عند الانتقال من CIFAR-10. علاوةً على ذلك، تُظهر RF-DARTS أداءً موثوقًا عبر ثلاث مجموعات بيانات (CIFAR-10، CIFAR-100، وSVHN) وأربعة فضاءات بحث (S1 إلى S4). كما أن RF-PC-DARTS تحقق نتائج أفضل على ImageNet، حيث تصل إلى خطأ اختبار ذا الرتبة الأولى قدره \textbf{23.9\%} وخطأ اختبار ذا الرتبة الخامسة قدره \textbf{7.1\%}، متفوقةً على طرق متميزة مثل الطرق ذات المسار الواحد، والطرق الخالية من التدريب، والطرق الجزئية القناة التي تم البحث عنها مباشرة على ImageNet.