HyperAIHyperAI
منذ 2 أشهر

MADE: مُشغِّل التَّحْكيم المُخَتَّص بتقدير التوزيع باستخدام الترميز الذاتي المقنّع

Mathieu Germain; Karol Gregor; Iain Murray; Hugo Larochelle
MADE: مُشغِّل التَّحْكيم المُخَتَّص بتقدير التوزيع باستخدام الترميز الذاتي المقنّع
الملخص

في الآونة الأخيرة، ازداد الاهتمام بتصميم نماذج الشبكات العصبية لتقدير توزيع إحصائي من مجموعة أمثلة. نقدم تعديلاً بسيطًا للشبكات العصبية ذات الترميز الذاتي (autoencoder) ينتج عنه نماذج توليدية قوية. طريقتنا تقوم بتغليف معلمات الترميز الذاتي لتتوافق مع القيود الترتيبية الذاتية: يتم إعادة بناء كل إدخال فقط من الإدخالات السابقة في ترتيب معين. بهذه الطريقة المقيدة، يمكن تفسير خرجات الترميز الذاتي كمجموعة من الاحتمالات الشرطية، ومنتجها هو الاحتمال المشترك الكامل. كما يمكننا أيضًا تدريب شبكة واحدة يمكنها تفكيك الاحتمال المشترك بترتيبات مختلفة متعددة. يمكن تطبيق إطار عملنا البسيط على العديد من الأطر المعمارية، بما في ذلك الأطر العميقة. تنفيذ المتجهات، مثل تلك التي تتم على وحدات المعالجة الرسومية (GPUs)، بسيط وسريع. أظهرت التجارب أن هذا النهج يتنافس مع أفضل تقديرات التوزيع القابلة للحل الحالية. في وقت الاختبار، يكون هذا النهج أسرع بكثير ويتوسع بشكل أفضل من غيره من المقدّرات الترتيبية الذاتية.

MADE: مُشغِّل التَّحْكيم المُخَتَّص بتقدير التوزيع باستخدام الترميز الذاتي المقنّع | أحدث الأوراق البحثية | HyperAI