Salva Rühling Cachay Miika Aittala Karsten Kreis Noah Brenowitz Arash Vahdat Morteza Mardani Rose Yu

Résumé

Les modèles de diffusion constituent un outil puissant pour la prévision probabiliste, mais la plupart des applications dans les systèmes chaotiques à haute dimension prédisent les états futurs un par un. Cette approche courante peine à modéliser des dépendances temporelles complexes et ne tient pas explicitement compte de la croissance progressive de l’incertitude inhérente à ces systèmes. Bien que des cadres de diffusion à roulement — qui appliquent un bruit croissant aux prévisions aux délais plus longs — aient été proposés pour remédier à ce problème, leur intégration avec les techniques de diffusion de pointe et à haute fidélité reste un défi majeur. Nous abordons cette question en introduisant les Modèles de Diffusion à Roulement Éclairés (ERDM), le premier cadre à réussir à unifier de manière cohérente une structure de prévision à roulement avec la conception rigoureuse et performante des Modèles de Diffusion Éclairés (EDM). Pour ce faire, nous adaptons les composants fondamentaux de l’EDM — son horaire de bruit, son préconditionnement de réseau et son estimateur de Heun — au contexte de prévision à roulement. Le succès de cette intégration repose sur trois contributions clés : (i) un nouveau schéma de pondération des pertes qui concentre la capacité du modèle sur les horizons moyens de prévision, là où le déterminisme cède la place à la stochasticité ; (ii) une stratégie d’initialisation efficace utilisant un modèle EDM pré-entraîné pour la fenêtre initiale ; et (iii) une architecture hybride spécialisée pour une extraction robuste des caractéristiques spatio-temporelles sous débruitage progressif. Sur des simulations 2D de Navier-Stokes et des prévisions météorologiques globales ERA5 à une résolution de 1,5°, les ERDM surpassent de manière cohérente les principales références basées sur la diffusion, y compris l’EDM autoregressif conditionnel. Les ERDM offrent un cadre général flexible et puissant pour aborder les problèmes de génération de séquences basés sur la diffusion, lorsque la modélisation de l’incertitude croissante est primordiale. Le code est disponible à l’adresse suivante : this https URL