iDARTS: تحسين DARTS من خلال التطبيع العقدية وتفكيك الترابط المُفرَّد

تستخدم خوارزمية البحث عن الهيكل القابل للتفاضل (DARTS) تبسيطًا مستمرًا لتمثيل الشبكة، مما يسرّع بشكل كبير عملية البحث عن الهيكل العصبي (NAS) بواقع آلاف المرات في وحدات معالجة الرسوميات (GPU-day). ومع ذلك، فإن عملية البحث في DARTS غير مستقرة، حيث تتأثر بتدهور شديد عند زيادة عدد دورات التدريب، مما يحد من تطبيقاتها الفعلية. في هذه الورقة، ندّعي أن هذه المشكلة تنشأ من عدم توازن القيم المعيارية بين العقد المختلفة، بالإضافة إلى الترابط العالي بين المخرجات الناتجة عن العمليات المختلفة. ثم نقترح نسخة محسّنة من DARTS، تُسمى iDARTS، لمعالجة هذين المشكلين. في مرحلة التدريب، تُطبّق iDARTS تطبيع العقد للحفاظ على توازن القيم المعيارية. وفي مرحلة التحويل إلى هيكل منفصل (التفكيك)، يتم تقريب الهيكل المستمر بناءً على مقياس التشابه بين مخرجات العقدة والعمليات المُعَزَّلة (غير المرتبطة ترابطًا)، وليس بناءً على قيم معلمات الهيكل. أُجريت تقييمات واسعة على مجموعتي بيانات CIFAR-10 وImageNet، وأُبلغت معدلات خطأ قدرها 2.25% و24.7% على التوالي، ضمن 0.2 و1.9 يوم GPU لعملية البحث عن الهيكل، مما يُظهر فعالية النموذج. كما أظهر التحليل الإضافي أن iDARTS تمتلك ميزة في المقاومة (الثبات) والقدرة على التعميم مقارنةً بنسخ DARTS الأخرى.