Command Palette
Search for a command to run...
تعلم رسم العينات: مع تطبيق على MLE المُستَهلكة للنموذج المُعادي الجِّيني
تعلم رسم العينات: مع تطبيق على MLE المُستَهلكة للنموذج المُعادي الجِّيني
Dilin Wang; Qiang Liu
الملخص
نقترح خوارزمية بسيطة لتدريب الشبكات العصبية العشوائية على سحب عينات من التوزيعات الهدف المحددة للإدراك الاحتمالي. تعتمد طريقتنا على ضبط معلمات الشبكة العصبية تكرارياً بحيث تتغير النواتج وفقاً لميل ستاين المتغير (Stein variational gradient) الذي يقلل بشكل أقصى من الاختلاف kullback-leibler (KL divergence) مع التوزيع الهدف. تعمل طريقتنا لأي توزيع هدف محدد بواسطة دالة الكثافة غير المُعَرَّفَة، ويمكنها تدريب أي هياكل سوداء صندوقية قابلة للمفاضلة بالنسبة للمعلمات التي نرغب في تنقيحها. كتطبيق لطريقتنا، نقترح خوارزمية MLE المُسْتَهْلكَة لتدريب النموذج الطاقوي العميق، حيث يتم تدريب السامplers العصبية بشكل متكيف لتقرير دالة الاحتمال. تحاكي طريقتنا لعبة معارضة بين النموذج الطاقوي العميق والسامplers العصبية، وتحصل على صور واقعية تتنافس مع أفضل النتائج الحالية في هذا المجال.