التدفقات المتقطعة: نماذج مولدة قابلة للعكس للبيانات المتقطعة

بينما أدت التدفقات الطبيعية إلى تقدم كبير في نمذجة التوزيعات المستمرة ذات الأبعاد العالية، فإن قابلية تطبيقها على التوزيعات المنفصلة لا تزال غير معروفة. في هذا البحث، نوضح أن التدفقات يمكن في الواقع توسيعها لتغطي الأحداث المنفصلة --- وباستخدام صيغة بسيطة للتغيير المتغير لا تتطلب حسابات لوغاريتم الياكوبين (log-determinant-Jacobian). للتدفقات المنفصلة العديد من التطبيقات. نعتبر هندستين للتدفق: التدفقات الذاتية الانحدارية المنفصلة التي تمكن من الاتجاه المزدوج، مما يسمح مثلاً للكمات في النص بالاعتماد على السياق من اليسار إلى اليمين ومن اليمين إلى اليسار في نموذج لغوي دقيق؛ والتدفقات الثنائية المنفصلة التي تمكن من إنتاج غير ذاتي الانحدار بكفاءة كما هو الحال في RealNVP. بشكل تجريبي، وجدنا أن التدفقات الذاتية الانحدارية المنفصلة تتفوق على النماذج الأولية الذاتية الانحدار في التوزيعات المنفصلة الصناعية، ومهمة الجمع، ونماذج بوتس (Potts models)؛ وأن التدفقات الثنائية يمكن أن تحصل على أداء تنافسي مع النماذج الأولية الذاتية الانحدار في نمذجة اللغة على مستوى الحروف لقاعدة بيانات بن (Penn Tree Bank) ونص text8.