Flow Matching pour la modélisation générative

Nous introduisons un nouveau paradigme pour la modélisation générative fondé sur les Flots de Normalisation Continus (CNFs), permettant d’entraîner ces derniers à une échelle sans précédent. Plus précisément, nous présentons le concept de correspondance de flots (Flow Matching, FM), une approche sans simulation pour l’entraînement des CNFs basée sur la régression de champs de vecteurs le long de trajectoires conditionnelles de probabilité fixes. La correspondance de flots est compatible avec une famille générale de trajectoires de probabilité gaussiennes permettant de transformer des échantillons bruités en échantillons de données — ce qui inclut comme cas particuliers les trajectoires de diffusion existantes. De manière intéressante, nous constatons qu’utiliser la FM avec des trajectoires de diffusion fournit une alternative plus robuste et stable pour l’entraînement des modèles de diffusion. En outre, la correspondance de flots ouvre la voie à l’entraînement des CNFs avec d’autres types de trajectoires de probabilité, non diffusives. Un exemple particulièrement pertinent est l’utilisation de l’interpolation de déplacement par Transport Optimal (OT) pour définir les trajectoires conditionnelles de probabilité. Ces trajectoires s’avèrent plus efficaces que les trajectoires de diffusion, permettent un entraînement et un échantillonnage plus rapides, et conduisent à une meilleure généralisation. L’entraînement des CNFs via la correspondance de flots sur ImageNet conduit à des performances supérieures de manière constante par rapport aux méthodes basées sur la diffusion, tant en termes de vraisemblance que de qualité des échantillons, tout en permettant une génération rapide et fiable d’échantillons grâce à des solveurs numériques d’ÉDO standards.