Nous proposons une extension du modèle décodeur Transformer, qui conditionne son processus de génération sur des variables latentes aléatoires apprises de manière non supervisée grâce à une procédure variationnelle. Les évaluations expérimentales montrent qu’autoriser un tel conditionnement se traduit par des améliorations importantes sur des tâches en aval.