HyperAIHyperAI
منذ 17 أيام

انحراف التباين التمييزي: نمذجة توليدية شبه مُعَوَّضة من خلال استكشاف طاقة المميّز

Yuxuan Song, Qiwei Ye, Minkai Xu, Tie-Yan Liu
انحراف التباين التمييزي: نمذجة توليدية شبه مُعَوَّضة من خلال استكشاف طاقة المميّز
الملخص

أظهرت الشبكات التوليدية التنافسية (GANs) إمكانات كبيرة في نمذجة البيانات عالية الأبعاد. غالبًا ما يكون الهدف التعلمي لـ GANs هو تقليل فجوة قياس معين، مثل الانفصال (f)-divergence (GANs من نوع (f)-GANs) أو القياس التكاملي الاحتمالي (Wasserstein GANs). وباستخدام الانفصال (f)-divergence كدالة هدف، يُقدّر المُميّز بشكل أساسي نسبة الكثافة، وتُعد هذه النسبة المقدرة مفيدة في تحسين جودة العينات الناتجة عن المولّد بشكل لاحق. ومع ذلك، لا يزال استغلال المعلومات المحتوية في المُميّز الخاص بـ Wasserstein GANs (WGAN) موضوعًا أقل استكشافًا. في هذا البحث، نقدّم ما يُسمى بـ "انفصال المُميّز التبايني" (Discriminator Contrastive Divergence)، الذي يُستمد بشكل منطقي من خاصية مُميّز WGAN والعلاقة بين WGAN والنموذج القائم على الطاقة (energy-based model). على عكس GANs القياسية، التي تستخدم المولّد مباشرةً للحصول على عينات جديدة، يقترح هذا الأسلوب إجراءً توليدًا شبه مُتَعَمَّمًا (semi-amortized generation)، حيث تُنتَج العينات باستخدام مخرجات المولّد كحالة أولية، ثم تُجرى عدة خطوات من ديناميات لانجفان باستخدام التدرج الخاص بالمُميّز. ونُظهر فوائد تحسين كبير في الجودة التوليدية على بيانات اصطناعية وعشرات معايير التوليد الصور الواقعية.