HyperAIHyperAI

Command Palette

Search for a command to run...

FInC Flow : Convolutions k×kk \times kk×k Rapides et Inversibles pour les Flows de Normalisation

Aditya Kallappa Sandeep Nagar Girish Varma

Résumé

Les convolutions inversibles ont constitué un élément fondamental dans la construction de modèles génératifs basés sur les flows de normalisation expressifs depuis leur introduction dans Glow. Plusieurs tentatives ont été entreprises afin de concevoir des convolutions inversibles k×kk \times kk×k efficaces tant en phase d’entraînement qu’en phase de génération. Bien que ces approches aient amélioré l’expressivité et l’efficacité de la génération, elles se sont fortement démarquées de Glow — qui utilisait uniquement des convolutions 1×11 \times 11×1 — en termes de temps de génération. De plus, de nombreuses méthodes masquent un grand nombre de paramètres apprenables sous-jacents à la convolution, entraînant une expressivité réduite sous un budget de temps fixe. Nous proposons une couche de convolution k×kk \times kk×k ainsi qu’une architecture de Deep Normalizing Flow qui i.) dispose d’un algorithme d’inversion parallèle rapide, de complexité temporelle O(nk2)(n k^2)(nk2) (où nnn désigne la hauteur et la largeur de l’image d’entrée, et kkk la taille du noyau), ii.) masque le nombre minimal de paramètres apprenables par couche, et iii.) offre des temps de passage avant (forward) et de génération comparables à ceux des autres modèles basés sur des convolutions k×kk \times kk×k, sur des benchmarks réels. Nous fournissons une implémentation de l’algorithme parallèle proposé pour la génération, utilisant nos convolutions inversibles, sur GPU. Les benchmarks sur les jeux de données CIFAR-10, ImageNet et CelebA montrent des performances comparables aux travaux antérieurs en termes de bits par dimension, tout en améliorant significativement le temps de génération.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp