HyperAIHyperAI
منذ 11 أيام

مُحدِّد مُوزون مُتكيف لتدريب الشبكات التوليدية المتنافسة

Vasily Zadorozhnyy, Qiang Cheng, Qiang Ye
مُحدِّد مُوزون مُتكيف لتدريب الشبكات التوليدية المتنافسة
الملخص

أصبحت الشبكة التوليدية التنافسية (GAN) واحدة من النماذج الشبكية العصبية الأكثر أهمية في التعلم الآلي غير المراقب الكلاسيكي. تم تطوير مجموعة متنوعة من دوال الخسارة للتمييز (discriminator) لتدريب مُميّزات GAN، وكلها تمتلك بنية مشتركة: مجموع لخسارة حقيقية وخسارة مُولّدة، تعتمد فقط على البيانات الحقيقية والبيانات المُولّدة على التوالي. إحدى التحديات المرتبطة باستخدام مجموع متساوٍ للخسارتين هو أن التدريب قد يفيد إحداهما لكنه يضر بالأخرى، وهو ما نُظهر أنه يُسبب عدم استقرار وانهيار النمط (mode collapse). في هذا البحث، نقدّم عائلة جديدة من دوال خسارة المُميّزات تعتمد على مجموع موزون للجزأين الحقيقي والمحسوس، ونسميها دوال الخسارة الموزونة التلقائية أو دوال aw-loss. باستخدام المشتقات (الدرجات) للجزأين الحقيقي والمحسوس من دالة الخسارة، يمكننا اختيار الأوزان بشكل تلقائي لتدريب المُميّز في الاتجاه الذي يعزز استقرار GAN. يمكن تطبيق طريقة التدريب هذه بشكل محتمل على أي نموذج مُميّز يعتمد على دالة خسارة تُكوّن مجموعاً للجزأين الحقيقي والمحسوس. وقد أثبتت التجارب فعالية دوال الخسارة المقترحة في مهمة توليد الصور غير المشروطة، حيث ساهمت في تحسين النتائج الأساسية بشكل كبير على مجموعات بيانات CIFAR-10 وSTL-10 وCIFAR-100 من حيث مقاييس Inception Score وFID.

مُحدِّد مُوزون مُتكيف لتدريب الشبكات التوليدية المتنافسة | أحدث الأوراق البحثية | HyperAI