HyperAIHyperAI
منذ 17 أيام

تحسين نماذج GAN باستخدام بحث معمارية الشبكة العصبية MMD، ووظيفة التنشيط PMish، والتفسير التصاعدي التكيفي

{Majid Rabbani, Raghuveer Rao, Jamison Heard, Sohail Dianat, Mahsa Mozaffari, Prasanna Reddy Pulakurthi}
الملخص

حصلت الشبكات التوليدية المتنافسة (GANs) على اهتمام كبير بفضل قدرتها المتميزة على إنتاج صور عالية الجودة وواقعية من توزيع بيانات مطلوب. تقدم هذه الدراسة تطورات في مجال GANs من خلال تطوير دالة تنشيط محسّنة، واستراتيجية تدريب جديدة، وطريقة تحليل رتبة تكيفية لضغط الشبكة. تُسمى الدالة التنشيطية المقترحة "Mish بارامترية" (PMish)، والتي تضبط تلقائيًا معلمة قابلة للتدريب لتحكم في نعومة وشكل دالة التنشيط. تعتمد طريقة التدريب المقترحة على استخدام بحث معماري للشبكات (NAS) لاكتشاف البنية المثلى لإنشاء الصور، مع استخدام خسارة دافعة (repulsive loss) تعتمد على الفرق المتوسط الأقصى (MMD) في التدريب المتنافس. تحسن الاستراتيجية التدريبية الجديدة الأداء من خلال رفع حد العلوي تدريجيًا لخسارة MMD-GAN المحدودة المضادة. وأخيرًا، تقلل طريقة التحليل الرتبي التكيفية (ARD) من تعقيد الشبكة بتأثير ضئيل على أدائها التوليد، مما يمكّن من نشرها بكفاءة على المنصات ذات الموارد المحدودة. وقد تم اختبار فعالية هذه التحسينات بشكل دقيق على مجموعات بيانات معيارية شهيرة مثل CIFAR-10 وCIFAR-100 وSTL-10 وCelebA، حيث أُظهرت تحسينات كبيرة مقارنة بالتقنيات الحالية. يُمكن الوصول إلى كود التنفيذ من خلال الرابط التالي: https://github.com/PrasannaPulakurthi/MMD-PMish-NAS