HyperAIHyperAI
il y a un mois

MaCow : Flot Générateur de Convolution Masquée

Xuezhe Ma; Xiang Kong; Shanghang Zhang; Eduard Hovy
MaCow : Flot Générateur de Convolution Masquée
Résumé

Les modèles génératifs basés sur les flux, qui sont conceptuellement attrayants en raison de la facilité de calcul de la vraisemblance logarithmique exacte et de l'inférence des variables latentes, ainsi que de l'efficacité de l'entraînement et de l'échantillonnage, ont conduit à plusieurs succès empiriques impressionnants et ont engendré de nombreuses variantes avancées et enquêtes théoriques. Malgré leur efficacité computationnelle, les performances d'estimation de densité des modèles génératifs basés sur les flux restent nettement inférieures à celles des modèles autorégressifs d'avant-garde. Dans ce travail, nous introduisons le flux génératif convolutif masqué (MaCow), une architecture simple mais efficace de flux génératif utilisant la convolution masquée. En limitant la connectivité locale dans un noyau réduit, MaCow bénéficie des propriétés d'un entraînement rapide et stable, ainsi que d'un échantillonnage efficace, tout en réalisant des améliorations significatives par rapport à Glow pour l'estimation de densité sur des benchmarks d'images standards, réduisant considérablement l'écart avec les modèles autorégressifs.

MaCow : Flot Générateur de Convolution Masquée | Articles de recherche récents | HyperAI