HyperAIHyperAI

Command Palette

Search for a command to run...

MaCow : Flot Générateur de Convolution Masquée

Xuezhe Ma Xiang Kong Shanghang Zhang Eduard Hovy

Résumé

Les modèles génératifs basés sur les flux, qui sont conceptuellement attrayants en raison de la facilité de calcul de la vraisemblance logarithmique exacte et de l'inférence des variables latentes, ainsi que de l'efficacité de l'entraînement et de l'échantillonnage, ont conduit à plusieurs succès empiriques impressionnants et ont engendré de nombreuses variantes avancées et enquêtes théoriques. Malgré leur efficacité computationnelle, les performances d'estimation de densité des modèles génératifs basés sur les flux restent nettement inférieures à celles des modèles autorégressifs d'avant-garde. Dans ce travail, nous introduisons le flux génératif convolutif masqué (MaCow), une architecture simple mais efficace de flux génératif utilisant la convolution masquée. En limitant la connectivité locale dans un noyau réduit, MaCow bénéficie des propriétés d'un entraînement rapide et stable, ainsi que d'un échantillonnage efficace, tout en réalisant des améliorations significatives par rapport à Glow pour l'estimation de densité sur des benchmarks d'images standards, réduisant considérablement l'écart avec les modèles autorégressifs.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp