نموذج بايزي مسبق لفضاء مخفي مشترك يعتمد على EBM لمحوّل متعدد الطبقات

تُعنى هذه الورقة بالمشكلة الأساسية في تعلّم نماذج المولّد متعددة الطبقات. تُنشئ نموذج المولّد متعدد الطبقات طبقات متعددة من المتغيرات المخفية كنموذج سابق فوق المولّد، مما يُعزّز تعلّم توزيعات البيانات المعقدة والتمثيلات الهرمية. ومع ذلك، يركّز هذا النموذج السابق عادةً على نمذجة العلاقات بين الطبقات من خلال افتراض توزيعات غاوسيّة غير معلوماتية (شرطية)، ما قد يُحدّ من قدرة النموذج على التعبير. لمعالجة هذه المشكلة وتعلّم نماذج سابقة أكثر تعبيرًا، نقترح نموذجًا مبنيًا على الطاقة (EBM) في الفضاء المخفي المشترك لجميع الطبقات من المتغيرات المخفية، مع اعتماد نموذج المولّد متعدد الطبقات كهيكل أساسي. يُمكّن هذا النموذج السابق من الفضاء المخفي المشترك من التقاط العلاقات السياقية داخل كل طبقة من خلال حدود الطاقة المحددة حسب الطبقة، كما يُصحّح المتغيرات المخفية عبر الطبقات المختلفة معًا. نطوّر خطة تدريب مشتركة باستخدام تقدير الاحتمال الأقصى (MLE)، والتي تتضمّن عينات مونت كارلو المتسلسلة (MCMC) لكل من التوزيعات السابقة واللاحقة للمتغيرات المخفية من الطبقات المختلفة. ولضمان استنتاج فعّال وتعلم سريع، نقترح أيضًا خطة تدريب تباينية، حيث تُستخدم نموذج استنتاج لتسريع عملية العينات اللاحقة المكلفة باستخدام MCMC. تُظهر التجارب أن النموذج المُتعلّم يتميّز بقدرته العالية على إنتاج صور عالية الجودة، وتمثيل السمات الهرمية بشكل أفضل للكشف عن القيم الشاذة.