HyperAIHyperAI

Command Palette

Search for a command to run...

Flow Matching pour la modélisation générative

Yaron Lipman Ricky T. Q. Chen Heli Ben-Hamu Maximilian Nickel Matt Le

Résumé

Nous introduisons un nouveau paradigme pour la modélisation générative fondé sur les Flots de Normalisation Continus (CNFs), permettant d’entraîner ces derniers à une échelle sans précédent. Plus précisément, nous présentons le concept de correspondance de flots (Flow Matching, FM), une approche sans simulation pour l’entraînement des CNFs basée sur la régression de champs de vecteurs le long de trajectoires conditionnelles de probabilité fixes. La correspondance de flots est compatible avec une famille générale de trajectoires de probabilité gaussiennes permettant de transformer des échantillons bruités en échantillons de données — ce qui inclut comme cas particuliers les trajectoires de diffusion existantes. De manière intéressante, nous constatons qu’utiliser la FM avec des trajectoires de diffusion fournit une alternative plus robuste et stable pour l’entraînement des modèles de diffusion. En outre, la correspondance de flots ouvre la voie à l’entraînement des CNFs avec d’autres types de trajectoires de probabilité, non diffusives. Un exemple particulièrement pertinent est l’utilisation de l’interpolation de déplacement par Transport Optimal (OT) pour définir les trajectoires conditionnelles de probabilité. Ces trajectoires s’avèrent plus efficaces que les trajectoires de diffusion, permettent un entraînement et un échantillonnage plus rapides, et conduisent à une meilleure généralisation. L’entraînement des CNFs via la correspondance de flots sur ImageNet conduit à des performances supérieures de manière constante par rapport aux méthodes basées sur la diffusion, tant en termes de vraisemblance que de qualité des échantillons, tout en permettant une génération rapide et fiable d’échantillons grâce à des solveurs numériques d’ÉDO standards.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp