نُقدِّم امتدادًا لمحول المُفكِّك (decoder Transformer) يُشغِّل عملية إنشائه بناءً على متغيرات مُتَخَفِّية عشوائية، تُتعلَّم دون توجيه بفضل عملية تبادلية (variational procedure). تُظهر التقييمات التجريبية أن السماح بتلك الشروط يُؤدّي إلى تحسينات كبيرة في المهام اللاحقة.