GENIE: حلول تفتيت تصفية التخلص من الضوضاء من الدرجة العليا

أصبحت نماذج التمايز المُنظف (DDMs) فئة قوية من النماذج التوليدية. حيث يُشوِّش عملية التمايز الأمامية تدريجيًا على البيانات، بينما تتعلم نموذج عميق التخلص التدريجي من الضوضاء. ويتم التوليد من خلال حل معادلة تفاضلية (DE) محددة بواسطة النموذج المُدرَّب. ويتطلب حل هذه المعادلة حلولًا تكرارية بطيئة لتحقيق جودة عالية في التوليد. في هذا العمل، نقترح حلولًا من الرتبة الأعلى للنماذج التوليدية المُنظفة (GENIE): استنادًا إلى طرق تايلور المُقطعة، نستنتج حلولًا من الرتبة الأعلى التي تُسرِّع بشكل كبير عملية التوليد. يعتمد حلنا على المشتقات من الرتب العليا لتوزيع البيانات المشوَّشة، أي دوال الدرجة العليا (score functions) من الرتب العليا. في الممارسة العملية، نحتاج فقط إلى حساب جداءات جاكوبين-متجه (JVPs)، ونقترح استخلاصها من شبكة الدرجة الأولى لدالة الدرجة عبر التمايز التلقائي. ثم نُحوِّل هذه الـ JVPs إلى شبكة عصبية منفصلة تسمح لنا بحساب المصطلحات العليا الضرورية لعينة جديدة بفعالية أثناء التوليد. نحتاج فقط إلى تدريب رأس إضافي صغير فوق شبكة دالة الدرجة الأولى. وقد قمنا بتحقق GENIE على عدة معايير لتوليد الصور، ونُظهر أن GENIE يتفوق على جميع الحلول السابقة. على عكس الطرق الحديثة التي تغيّر جوهريًا عملية التوليد في DDMs، فإن GENIE تحل المعادلة التوليدية الحقيقية، وتمكّن من تطبيقات مثل التشفير والعينة المُوجَّهة. صفحة المشروع والكود: https://nv-tlabs.github.io/GENIE.