نماذج كثافة قابلة للتفريق

لقد حققت نماذج كثافة الاحتمال القائمة على الشبكات العميقة نجاحًا ملحوظًا في نمذجة البيانات عالية الأبعاد المعقدة. ومع ذلك، على عكس مقدرات كثافة النوى (kernel density estimators)، لا تُنتج النماذج العصبية الحديثة التوزيعات الحدية أو الشرطية بشكل مغلق، لأن هذه الكميات تتطلب تقييم تكاملات نادراً ما تكون قابلة للحل. في هذا العمل، نقدّم نموذجًا جديدًا يُدعى "مُقرّب نموذج كثافة قابل للحد" (Marginalizable Density Model Approximator - MDMA)، وهو بنية شبكية عميقة تُوفر تعبيرات مغلقة لاحتمالات أي مجموعة من المتغيرات، وكذلك لتوزيعاتها الحدية والشرطية. يتعلم MDMA تمثيلات عُددية عميقة لكل متغير على حدة، ثم يدمجها من خلال تحليلات تنسورية هرمية مُدرَّبة إلى دالة توزيع تراكمي (CDF) قابلة للحل، من خلالها يمكن الحصول بسهولة على التوزيعات الحدية والشرطية. ونُظهر ميزة القابلية للحد الدقيق في عدة مهام لم تكن ممكنة سابقًا باستخدام نماذج تقدير الكثافة القائمة على الشبكات العميقة، مثل تقدير المعلومات المتبادلة بين أي مجموعات فرعية من المتغيرات، واستنتاج العلاقات السببية من خلال اختبار الاستقلال الشرطي، والاستنتاج مع البيانات المفقودة دون الحاجة إلى استبدال البيانات المفقودة (data imputation)، حيث يتفوّق على النماذج الرائدة في هذه المهام. كما يسمح النموذج بعمليات عينة متوازية، مع اعتماد خطي فقط في التعقيد الزمني على عدد المتغيرات.