منذ 2 أشهر
بحث تدريجي في هندسة الشبكات العصبية
Chenxi Liu; Barret Zoph; Maxim Neumann; Jonathon Shlens; Wei Hua; Li-Jia Li; Li Fei-Fei; Alan Yuille; Jonathan Huang; Kevin Murphy
الملخص
نقترح طريقة جديدة لتعلم بنية الشبكات العصبية التلافيفية (CNNs) تكون أكثر كفاءة من الطرق الرائدة حديثًا التي تعتمد على التعلم التعزيزي والخوارزميات التطورية. تستخدم نهجنا استراتيجية تحسين مبنية على النماذج التسلسلية (SMBO)، حيث نبحث عن الهياكل بترتيب متزايد في التعقيد، مع تعلم نموذج بديل بشكل متزامن لتسهيل البحث في فضاء الهياكل. عند المقارنة المباشرة تحت نفس فضاء البحث، أظهرت طرقنا أنها أكثر كفاءة بمقدار خمس مرات من طريقة التعلم التعزيزي لـ Zoph وآخرون (2018) من حيث عدد النماذج المُقيَّمة، وأسرع بمقدار ثماني مرات من حيث الحوسبة الإجمالية. تحقق الهياكل التي نكتشفها بهذه الطريقة دقة تصنيف رائدة في مجالها على قاعدة بيانات CIFAR-10 وImageNet.