تعلم تمثيل الإخراج الهيكلي باستخدام نماذج توليدية شرطية عميقة

تم تطبيق التعلم العميق المُشرف بنجاح على العديد من مشكلات التعرف في مجالات التعلم الآلي والرؤية الحاسوبية. وعلى الرغم من قدرته على تقريب دالة معقدة ذات علاقة متعددة إلى واحدة بشكل جيد عند توفر كمية كبيرة من البيانات التدريبية، إلا أن غياب الاستدلال الاحتمالي في الطرق الحالية للتعلم العميق المُشرف يجعل من الصعب نمذجة تمثيلات مخرجات معقدة ذات هيكل. في هذا العمل، نطور نموذجًا عميقًا شرطيًا توليدياً قابلاً للتوسع لتمثيل المتغيرات المخرجة ذات الهيكل باستخدام متغيرات مخفية غاوسية. يتم تدريب النموذج بكفاءة ضمن إطار التباين التدريجي العشوائي (Stochastic Gradient Variational Bayes)، ويتيح التنبؤ السريع باستخدام استدلال تغذية أمامية عشوائي. علاوةً على ذلك، نقدّم استراتيجيات مبتكرة لبناء خوارزميات تنبؤ هيكلية قوية، مثل بنية شبكة التنبؤ المتكررة (Recurrent Prediction Network Architecture)، وتقنيات إدخال الضوضاء في المدخلات، وطرق تدريب التنبؤ متعددة المقياس (Multi-scale Prediction Training Methods). في التجارب، نُظهر فعالية الخوارزمية المقترحة مقارنةً بالشبكات العصبية العميقة المحددة (Deterministic Deep Neural Networks) في إنتاج تمثيلات مخرجة متنوعة ولكن واقعية باستخدام الاستدلال العشوائي. علاوةً على ذلك، كانت الطرق المقترحة في التدريب وتصميم المعمارية مكملة لبعضها البعض، مما أسهم في تحقيق أداء قوي في التجزئة على مستوى البكسل والتصنيف الدلالي على مجموعة بيانات Caltech-UCSD Birds 200، وعلى مجموعة فرعية من مجموعة بيانات Labeled Faces in the Wild.