Blackout Diffusion : Modèles de diffusion générative dans des espaces à états discrets

Les modèles génératifs par diffusion classiques s'appuient sur un processus de diffusion gaussienne pour l'entraînement des transformations en sens inverse, qui peuvent ensuite être utilisées pour générer des échantillons à partir d'un bruit gaussien. Toutefois, les données du monde réel évoluent souvent dans des espaces à états discrets, ce qui inclut de nombreuses applications scientifiques. Dans cet article, nous développons une formulation théorique pour des processus markoviens à états discrets arbitraires dans le processus de diffusion en sens direct, fondée sur une analyse exacte (au lieu d'une analyse variationnelle). Nous établissons un lien entre cette théorie et les modèles de diffusion gaussienne continue existants, ainsi qu'avec d'autres approches de diffusion discrète. Nous identifions, dans le cadre continu en temps, le processus stochastique en temps inverse ainsi que la fonction score correspondante, et dans le cadre discret en temps, l'application en temps inverse. À titre d'exemple de ce cadre général, nous introduisons « Blackout Diffusion », un modèle qui apprend à produire des échantillons à partir d'une image vide plutôt que d'un bruit aléatoire. Des expériences numériques sur les jeux de données CIFAR-10, Binarized MNIST et CelebA confirment la faisabilité de notre approche. En généralisant à partir des processus de diffusion spécifiques (gaussiens) vers des processus à états discrets sans recourir à une approximation variationnelle, cette étude éclaire la manière dont les modèles de diffusion peuvent être interprétés, ce que nous discutons en détail.