HyperAIHyperAI

Command Palette

Search for a command to run...

البحث المُميَّز في البنية المعمارية باستخدام الميزات العشوائية

Xuanyang Zhang Yonggang Li Xiangyu Zhang Yongtao Wang Jian Sun

الملخص

أدى البحث المُمكن التفاضلية في البنية (DARTS) إلى تطور كبير في تقنيات البحث عن الهياكل (NAS) بفضل كفاءته العالية وفعاليته، لكنه يعاني من مشكلة انهيار الأداء. في هذا البحث، نسعى إلى تخفيف مشكلة انهيار الأداء في DARTS من جهتين. أولاً، نستعرض القوة التعبيرية للشبكة الفائقة (supernet) في DARTS، ثم نستنتج إعدادًا جديدًا لمنصة DARTS يتضمن تدريبًا فقط لـ BatchNorm. ثانيًا، نجد نظريًا أن الميزات العشوائية تُضعف دور الاتصال المُساعِد (skip-connection) في تحسين الشبكة الفائقة، مما يُمكّن خوارزمية البحث من التركيز على اختيار العمليات بشكل أكثر عدالة، وبالتالي حل مشكلة انهيار الأداء. نُطبّق DARTS وPC-DARTS باستخدام ميزات عشوائية لبناء نسخ محسّنة لكل منهما تُسمى على التوالي RF-DARTS وRF-PC-DARTS. تُظهر النتائج التجريبية أن RF-DARTS تحقق دقة اختبار قدرها \textbf{94.36%} على CIFAR-10 (وهي النتيجة الأقرب إلى المثالية في NAS-Bench-201)، كما تحقق أحدث نتائج متفوقة على ImageNet بخطأ اختبار ذا الرتبة الأولى قدره \textbf{24.0%} عند الانتقال من CIFAR-10. علاوةً على ذلك، تُظهر RF-DARTS أداءً موثوقًا عبر ثلاث مجموعات بيانات (CIFAR-10، CIFAR-100، وSVHN) وأربعة فضاءات بحث (S1 إلى S4). كما أن RF-PC-DARTS تحقق نتائج أفضل على ImageNet، حيث تصل إلى خطأ اختبار ذا الرتبة الأولى قدره \textbf{23.9%} وخطأ اختبار ذا الرتبة الخامسة قدره \textbf{7.1%}، متفوقةً على طرق متميزة مثل الطرق ذات المسار الواحد، والطرق الخالية من التدريب، والطرق الجزئية القناة التي تم البحث عنها مباشرة على ImageNet.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp