الإنشاء والنمذجة الضمنيان باستخدام نماذج الطاقة

تمثّل نماذج الطاقة (EBMs) نماذج جذابة بفضل عموميتها وبساطة نمذجة الاحتمال، لكنها كانت تقليديًا صعبة التدريب. نقدّم تقنيات لتوسيع نطاق تدريب نماذج الطاقة القائمة على مونت كارلو ماركوف (MCMC) على الشبكات العصبية المستمرة، ونُظهر نجاحها في مجالات بيانات عالية الأبعاد مثل ImageNet32x32 وImageNet128x128 وCIFAR-10 ومسارات يد الروبوت، حيث تمكّنت من إنتاج عينات أفضل من نماذج الاحتمال الأخرى، واقتربت من أداء النماذج الحديثة من نوع GAN، مع تغطية جميع النماذج (الأنماط) المميزة للبيانات. ونُبرز بعض القدرات الفريدة للإنتاج الضمني مثل التراكيب (التركيبية) وإعادة بناء الصور التالفة وملء الفراغات (الاستكمال). وأخيرًا، نُظهر أن نماذج الطاقة نماذج مفيدة في مجموعة واسعة من المهام، حيث حققت أداءً رائدًا في التصنيف خارج التوزيع (out-of-distribution)، والتصنيف المقاوم للهجمات المُصمّمة خصيصًا (adversarially robust classification)، وتعلم فئات متواصلة في الوقت الحقيقي (continual online class learning)، والتنبؤ بمسارات متسقة على المدى الطويل.