Zen-NAS: NAS بدون عينات لتمييز الصور العميقة عالي الأداء

يُعد مُقدّر الدقة عنصرًا رئيسيًا في البحث الهيكلي العصبي (NAS) لتصنيف الهياكل المعمارية. وعادةً ما يتطلب بناء مُقدّر دقة عالي الجودة تكلفة حسابية هائلة. لمعالجة هذه المشكلة، بدلًا من استخدام مُقدّر دقة، نقترح فهرسًا جديدًا بدون تدريب يُسمى Zen-Score لتصنيف الهياكل المعمارية. يُمثل Zen-Score قدرة الشبكة على التعبير (network expressivity)، ويتزايد بشكل إيجابي مع دقة النموذج. وتحسب قيمة Zen-Score من خلال عدد قليل جدًا من التنبؤات الأمامية (forward inferences) عبر شبكة مُهيأة عشوائيًا، دون الحاجة إلى تدريب معاملات الشبكة. بناءً على Zen-Score، نقترح خوارزمية NAS جديدة تُسمى Zen-NAS، والتي تهدف إلى تحسين قيمة Zen-Score للشبكة المستهدفة ضمن حدود محددة لاستهلاك الحوسبة. وباستخدام أقل من نصف يوم من وحدة معالجة الرسومات (GPU)، يمكن لـ Zen-NAS البحث مباشرة عن هياكل عالية الأداء بأسلوب يعتمد على عدم الحاجة إلى بيانات تدريب. مقارنةً بالطرق السابقة في NAS، فإن Zen-NAS أسرع بمقدار عدة مرات على منصات GPU المخصصة للخوادم والهواتف المحمولة، مع تحقيق دقة متقدمة جدًا على مجموعة بيانات ImageNet. تم إصدار الكود المصدري والنماذج المُدرّبة مسبقًا على الرابط التالي: https://github.com/idstcv/ZenNAS.