HyperAIHyperAI

Command Palette

Search for a command to run...

FFJORD : Dynamiques continues à forme libre pour les modèles génératifs réversibles à grande échelle

Will Grathwohl∗†‡, Ricky T. Q. Chen∗†, Jesse Bettencourt†, Ilya Sutskever‡, David Duvenaud†

Résumé

Une classe prometteuse de modèles génératifs mappe des points d'une distribution simple à une distribution complexe à travers un réseau neuronal inversible. L'entraînement basé sur la vraisemblance de ces modèles nécessite de restreindre leurs architectures pour permettre un calcul peu coûteux des déterminants jacobien. En alternative, la trace jacobienne peut être utilisée si la transformation est définie par une équation différentielle ordinaire. Dans cet article, nous utilisons l'estimateur de trace de Hutchinson pour fournir une estimation sans biais et évolutivement scalable du logarithme de la densité. Le résultat est un modèle génératif continu et inversible avec une estimation sans biais de la densité et un échantillonnage en un seul passage, tout en autorisant des architectures de réseaux neuronaux non restreintes. Nous démontrons notre approche sur l'estimation de densités en haute dimension, la génération d'images et l'inférence variationnelle, atteignant l'état de l'art parmi les méthodes basées sur la vraisemblance exacte avec un échantillonnage efficace.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp