HyperAIHyperAI
منذ 2 أشهر

تعلم رسم العينات: مع تطبيق على MLE المُستَهلكة للنموذج المُعادي الجِّيني

Dilin Wang; Qiang Liu
تعلم رسم العينات: مع تطبيق على MLE المُستَهلكة للنموذج المُعادي الجِّيني
الملخص

نقترح خوارزمية بسيطة لتدريب الشبكات العصبية العشوائية على سحب عينات من التوزيعات الهدف المحددة للإدراك الاحتمالي. تعتمد طريقتنا على ضبط معلمات الشبكة العصبية تكرارياً بحيث تتغير النواتج وفقاً لميل ستاين المتغير (Stein variational gradient) الذي يقلل بشكل أقصى من الاختلاف kullback-leibler (KL divergence) مع التوزيع الهدف. تعمل طريقتنا لأي توزيع هدف محدد بواسطة دالة الكثافة غير المُعَرَّفَة، ويمكنها تدريب أي هياكل سوداء صندوقية قابلة للمفاضلة بالنسبة للمعلمات التي نرغب في تنقيحها. كتطبيق لطريقتنا، نقترح خوارزمية MLE المُسْتَهْلكَة لتدريب النموذج الطاقوي العميق، حيث يتم تدريب السامplers العصبية بشكل متكيف لتقرير دالة الاحتمال. تحاكي طريقتنا لعبة معارضة بين النموذج الطاقوي العميق والسامplers العصبية، وتحصل على صور واقعية تتنافس مع أفضل النتائج الحالية في هذا المجال.

تعلم رسم العينات: مع تطبيق على MLE المُستَهلكة للنموذج المُعادي الجِّيني | أحدث الأوراق البحثية | HyperAI