HyperAIHyperAI
منذ 17 أيام

مُقدِّر التوزيع العصبي التكراري التلقائي NADE-k

{Kyunghyun Cho, Yao Li, Yoshua Bengio, Tapani Raiko}
مُقدِّر التوزيع العصبي التكراري التلقائي NADE-k
الملخص

يمكن اعتبار تدريب مُقدِّر الكثافة التلقائي العصبي (NADE) كإجراء خطوة واحدة من الاستنتاج الاحتمالي اللازم لقيم البيانات المفقودة. نقترح نموذجًا جديدًا يمتدّ هذا المخطط الاستنتاجي إلى عدة خطوات، ونُقدّم حجة تفيد بأن من الأسهل تعلُّم تحسين إعادة بناء البيانات على مدار $k$ خطوات، مقارنةً بتعلم إعادة بناء البيانات في خطوة استنتاج واحدة. يُعدّ النموذج المقترح وحدة غير مراقبة لتعلم العمق، يجمع بين الخصائص المرغوبة لنموذج NADE وتدريب التنبؤ المتعدد: (1) يمكن حساب الاحتمال عند الاختبار بشكل تحليلي، (2) من السهل إنشاء عينات مستقلة منه، و(3) يستخدم محرك استنتاج هو مجموعة فرعية شاملة للاستنتاج التقديرية (variational inference) لآلات بولتزمان. وقد أظهر نموذج NADE-$k$ الذي اقترحناه أداءً تنافسيًا مع أفضل النماذج الحالية في تقدير الكثافة على المجموعتين اللتين تم اختبارهما.