نقدم نموذجًا هيراركيًا لـ VAE، وهو أول نموذج يُولِّد عينات بسرعة كبيرة مع تفوقه على PixelCNN من حيث الاحتمال اللوغاريتمي (log-likelihood) في جميع معايير الصور الطبيعية. نبدأ بملاحظة أن النماذج النظرية لـ VAE قادرة فعليًا على تمثيل النماذج التلقائية (autoregressive)، فضلًا عن نماذج أسرع وأفضل إذا كانت موجودة، شريطة أن تكون عميقة بما يكفي. وعلى الرغم من ذلك، ظلّت النماذج التلقائية تتفوق على نماذج VAE من حيث الاحتمال اللوغاريتمي تاريخيًا. لاختبار ما إذا كان العمق غير الكافي هو السبب، قمنا بتوسيع عمق نموذج VAE إلى مستوى عشوائي (stochastic depth) أكبر من أي تجربة سابقة، وقمنا بتقييمه على مجموعات بيانات CIFAR-10 وImageNet وFFHQ. ومقارنةً بنموذج PixelCNN، أظهرت هذه النماذج العميقة جدًا لـ VAE تحسينًا في الاحتمال اللوغاريتمي، واستخدامًا أقل للبارامترات، وسرعة توليد عينات تفوق آلاف المرات، كما أصبحت أكثر سهولة في التطبيق على الصور عالية الدقة. وتشير الدراسات النوعية إلى أن السبب يكمن في قدرة نموذج VAE على تعلم تمثيلات بصرية هيراركية فعّالة. ونُطلق الكود المصدري والنماذج الخاصة بنا عبر الرابط التالي: https://github.com/openai/vdvae.