Clustering non supervisé profond avec des auto-encodeurs variationnels à mélange gaussien

Nous étudions une variante du modèle d'autoencodeur variationnel (VAE) utilisant un mélange gaussien comme distribution a priori, dans le but de réaliser un clustering non supervisé à travers des modèles génératifs profonds. Nous observons que le problème connu de sur-régularisation, qui a été démontré dans les VAE classiques, se manifeste également dans notre modèle et entraîne une dégénérescence des clusters. Nous montrons qu'une heuristique appelée contrainte d'information minimale, qui a été démontrée pour atténuer cet effet dans les VAE, peut également être appliquée pour améliorer la performance du clustering non supervisé avec notre modèle. De plus, nous analysons l'effet de cette heuristique et fournissons une intuition des différents processus à l'aide de visualisations. Enfin, nous démontrons la performance de notre modèle sur des données synthétiques, MNIST et SVHN, en montrant que les clusters obtenus sont distincts, interprétables et permettent d'atteindre des performances compétitives en clustering non supervisé comparées aux résultats de pointe actuels.