HyperAIHyperAI

Command Palette

Search for a command to run...

PFGM++ : Déverrouiller le Potentiel des Modèles Génératifs Inspirés par la Physique

Yilun Xu; Ziming Liu; Yonglong Tian; Shangyuan Tong; Max Tegmark; Tommi Jaakkola

Résumé

Nous présentons une nouvelle famille de modèles génératifs inspirés par la physique, dénommée PFGM++, qui unifie les modèles de diffusion et les modèles génératifs de flux de Poisson (PFGM). Ces modèles réalisent des trajectoires génératives pour des données à NNN dimensions en plongeant des chemins dans un espace à N+DN{+}DN+D dimensions tout en contrôlant le progrès avec une norme scalaire simple des DDD variables supplémentaires. Les nouveaux modèles se réduisent au PFGM lorsque D=1D{=}1D=1 et aux modèles de diffusion lorsque DD{\to}\inftyD. La flexibilité du choix de DDD nous permet d'équilibrer la robustesse contre la rigidité, car l'augmentation de DDD entraîne une couplage plus concentré entre les données et les normes des variables supplémentaires. Nous abandonnons les cibles de champ par grands lots biaisées utilisées dans le PFGM et proposons plutôt un objectif basé sur des perturbations non biaisées similaire aux modèles de diffusion. Pour explorer différentes valeurs de DDD, nous fournissons une méthode d'alignement direct pour transférer des hyperparamètres bien ajustés des modèles de diffusion (DD{\to} \inftyD) vers toute valeur finie de DDD. Nos expériences montrent que les modèles avec un DDD fini peuvent surpasser les précédents modèles de diffusion d'avant-garde sur les jeux de données CIFAR-10/FFHQ 64×6464{\times}6464×64, avec des scores FID (Fréchet Inception Distance) de 1.91/2.431.91/2.431.91/2.43 lorsque D=2048/128D{=}2048/128D=2048/128. Dans le cadre conditionnel par classe, D=2048D{=}2048D=2048 offre le meilleur score FID actuel de 1.741.741.74 sur CIFAR-10. De plus, nous démontrons que les modèles avec un petit DDD présentent une meilleure robustesse face aux erreurs de modèle. Le code est disponible à l'adresse https://github.com/Newbeeer/pfgmpp.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp