HyperAIHyperAI

Command Palette

Search for a command to run...

Modèle de prior EBM à espace latent conjoint appris pour générateur multi-couches

Jiali Cui Ying Nian Wu Tian Han

Résumé

Cet article étudie le problème fondamental de l’apprentissage des modèles générateurs à plusieurs couches. Le modèle générateur à plusieurs couches construit plusieurs couches de variables latentes comme un modèle a priori au-dessus du générateur, ce qui facilite l’apprentissage de distributions de données complexes et de représentations hiérarchiques. Toutefois, ce type de modèle a priori se concentre habituellement sur la modélisation des relations inter-couches entre les variables latentes en supposant des distributions gaussiennes (conditionnelles) non informatives, ce qui peut limiter l’expressivité du modèle. Pour surmonter cette limitation et apprendre des modèles a priori plus expressifs, nous proposons un modèle fondé sur l’énergie (EBM) défini sur l’espace latent conjoint de toutes les couches de variables latentes, en s’appuyant sur le modèle générateur à plusieurs couches comme architecture fondamentale. Ce modèle a priori EBM sur l’espace latent conjoint capte les relations contextuelles intra-couches à chaque couche grâce à des termes d’énergie spécifiques à chaque couche, tout en corrigeant conjointement les variables latentes appartenant à différentes couches. Nous développons une méthode d’entraînement conjoint par estimation du maximum de vraisemblance (MLE), qui repose sur un échantillonnage par chaînes de Markov (MCMC) pour les distributions a priori et a posteriori des variables latentes issues de différentes couches. Afin d’assurer une inférence et un apprentissage efficaces, nous proposons également une méthode d’entraînement variationnelle où un modèle d’inférence est utilisé pour amortir l’échantillonnage a posteriori coûteux par MCMC. Nos expériences démontrent que le modèle appris est capable de générer des images de haute qualité et de capturer des caractéristiques hiérarchiques, offrant ainsi une meilleure détection d’anomalies.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp