عقوبة الميل من منظور الحد الأقصى للهوة

إحدى الطرق التقديرية الشائعة لتحسين الأداء في الشبكات التوليدية التنافسية (GANs) هي استخدام نوع من عقوبات المتجهات التدرج على المُميّز (discriminator). وقد أُسّست هذه العقوبة التدرجية في الأصل على أساس مفهوم المسافة واسيرستاين (Wasserstein distance). ومع ذلك، فإن تبرير استخدام عقوبات التدرج في صيغ GAN الأخرى ليس مبررًا بشكل جيد. نقدّم إطارًا موحدًا يعتمد على تحسين الهامش المتوقع، ونُظهر أن مجموعة واسعة من نماذج GAN التي تعتمد على عقوبات التدرج (مثل GANs واسيرستاين، والقياسية، وGANS ذات المربعات الأقل، وGANS ذات الهينج) يمكن استخلاصها من هذا الإطار. تشير نتائجنا إلى أن استخدام عقوبات التدرج يؤدي إلى تشكيل فاصل ت_CLASSIFIER (مُميّز) ذي هامش كبير، وهو ما يُعزز من كفاءة المُميّز في GANs. ونوضح كيف يساعد هذا الإطار في تقليل مشكلة تلاشي التدرجات (vanishing gradients) عند العينات المُولَّدة (الوهمية)، وهي مشكلة معروفة في GANs. ومن هذا الإطار، نستنتج عقوبة جديدة على نورم التدرج من النوع (L^\infty) مع دالة خسارة هينج (Hinge loss)، والتي تُنتج في العادة نتائج مُولَّدة مُساوية (أو أفضل) مقارنةً بعقوبات نورم (L^2) (حسب معيار Fréchet Inception Distance).