تعلم النماذج التوليدية باستخدام مقدّرات كثافة التصفية

إن تعلُّم النماذج الاحتمالية القادرة على تقدير كثافة مجموعة معينة من العينات، وإنتاج عينات من هذه الكثافة، يُعد أحد التحديات الأساسية في التعلم غير المراقب. نقدم نموذجًا توليديًا جديدًا يستند إلى مُقدِّرات كثافة التخلُّص من الضوضاء (DDEs)، وهي دوال قياسية مُعامَّلة بواسطة شبكات عصبية، تم تدريبها بكفاءة لتمثيل مُقدِّرات كثافة النواة للبيانات. وباستخدام DDEs، يكمن إسهامنا الرئيسي في تقنية جديدة لاستخلاص النماذج التوليدية من خلال تقليل انحراف كولبومر-ليبلر (KL-divergence) مباشرة. ونُثبت أن خوارزميتنا لاستخلاص النماذج التوليدية مضمونة التقارب إلى الحل الصحيح. ولا تتطلب طريقة نهجنا هيكل شبكة محددًا كما في التدفقات المُعَمَّلة (normalizing flows)، ولا تعتمد على حلول المعادلات التفاضلية العادية كما في التدفقات المُعَمَّلة المستمرة (continuous normalizing flows). وتوحي النتائج التجريبية بتحسين كبير في تقدير الكثافة، وأداء تنافسي في تدريب النماذج التوليدية.