Bonsai-Net: بحث معماري عصبي واحد-الخطوة عبر مُحَرِّرات قابلين للتمييز

تهدف بحوث التصميم المعماري العصبي لمرة واحدة (NAS) إلى تقليل التكلفة الحسابية المرتبطة باكتشاف النماذج المتميزة. ومع ذلك، في العام الماضي، لفت الانتباه إلى الأداء المماثل للبحث العشوائي البسيط في نفس فضاءات البحث التي تستخدمها خوارزميات NAS الرائدة. ولحل هذه المشكلة، نستعرض تأثير تخفيف مساحة البحث الخاصة بـ NAS بشكل كبير، ونقدم Bonsai-Net، وهي طريقة فعّالة لـ NAS لمرة واحدة لاستكشاف مساحة بحث مُبسطة. تُبنى Bonsai-Net حول مُنظّف تفاضلي معدل، ويمكنها باستمرار اكتشاف معماريّات متميزة تفوق بكثير أداء البحث العشوائي، مع عدد معلمات أقل من الطرق الأخرى المتميزة. علاوةً على ذلك، تقوم Bonsai-Net باستكشاف النموذج وتدريبه في آن واحد، مما يقلل بشكل كبير من الوقت الكلي المطلوب لإنتاج نماذج مُدرّبة بالكامل من الصفر.