Modèles génératifs profonds auxiliaires

Les modèles génératifs profonds paramétrés par des réseaux neuronaux ont récemment atteint des performances de pointe dans les tâches d'apprentissage non supervisé et semi-supervisé. Nous étendons les modèles génératifs profonds en introduisant des variables auxiliaires, ce qui améliore l'approximation variationnelle. Ces variables auxiliaires laissent le modèle génératif inchangé tout en rendant la distribution variationnelle plus expressive. Inspirés par la structure de ces variables auxiliaires, nous proposons également un modèle comportant deux couches stochastiques et des connexions directes (skip connections). Nos résultats suggèrent que des modèles génératifs profonds plus expressifs et correctement spécifiés convergent plus rapidement tout en obtenant de meilleurs résultats. Nous démontrons des performances de pointe dans le cadre de l'apprentissage semi-supervisé sur les jeux de données MNIST, SVHN et NORB.