تحسين تدريب MMD-GAN باستخدام دالة الخسارة المرتدة

الشبكات المولدة المعادية (GANs) تُستخدم على نطاق واسع لتعلم عملية أخذ عينات البيانات، وقد يعتمد أداؤها بشكل كبير على دوال الخسارة، نظرًا للميزانية الحسابية المحدودة. تعيد هذه الدراسة النظر في MMD-GAN التي تستخدم الاختلاف المتوسط الأقصى (MMD) كدالة خسارة لـ GAN وتجعل مساهمتين. أولاً، نحاجج بأن الدالة الخسارية MMD الحالية قد تعوق تعلم التفاصيل الدقيقة في البيانات حيث تحاول تقليص مخرجات المميز للبيانات الحقيقية. لحل هذه المشكلة، نقترح دالة خسارة مقاومة لتعلم الفروق بين البيانات الحقيقية من خلال إعادة ترتيب المصطلحات في MMD ببساطة. ثانياً، مستوحاة من دالة الخسارة المحورية (hinge loss)، نقترح نواة جاوسية محددة لاستقرار تدريب MMD-GAN مع دالة الخسارة المقاومة. تم تطبيق الأساليب المقترحة على مهام إنشاء الصور بدون إشراف باستخدام مجموعات بيانات CIFAR-10 و STL-10 و CelebA و LSUN bedroom. أظهرت النتائج أن دالة الخسارة المقاومة تحسن بشكل كبير على دالة الخسارة MMD دون أي زيادة في التكلفة الحسابية وتتفوق على دوال الخسارة الأخرى الممثلة. حققت الأساليب المقترحة درجة FID قدرها 16.21 على مجموعة بيانات CIFAR-10 باستخدام شبكة DCGAN واحدة والتطبيع الطيفي (spectral normalization).