Salva Rühling Cachay Miika Aittala Karsten Kreis Noah Brenowitz Arash Vahdat Morteza Mardani Rose Yu

Abstract

Diffusionsmodelle sind ein leistungsfähiges Werkzeug für die probabilistische Vorhersage, doch die meisten Anwendungen in hochdimensionalen chaotischen Systemen prognostizieren zukünftige Zustände nacheinander einzelne Schritte vorweg. Dieser verbreitete Ansatz erweist sich als unzureichend, um komplexe zeitliche Abhängigkeiten zu modellieren und berücksichtigt die inhärente, progressiv anwachsende Unsicherheit solcher Systeme nicht explizit. Obwohl bereits rollierende Diffusionsframeworks vorgeschlagen wurden, die bei längeren Vorhersagehorizonten zunehmend Rauschen in die Vorhersagen einbeziehen, bleibt deren Integration mit modernen, hochgenauen Diffusionsverfahren eine große Herausforderung. Wir begegnen dieser Aufgabe durch die Einführung von Elucidated Rolling Diffusion Models (ERDM), dem ersten Framework, das eine rollierende Vorhersagearchitektur erfolgreich mit dem fundierten und leistungsfähigen Design von Elucidated Diffusion Models (EDM) vereint. Dazu adaptieren wir die zentralen Komponenten des EDM – seinen Rauschverlauf, die Netzwerkpräkonditionierung sowie den Heun-Sampler – auf die rollierende Vorhersagesituation. Der Erfolg dieser Integration beruht auf drei entscheidenden Beiträgen: (i) einem neuartigen Verlustgewichtungsansatz, der die Modellkapazität auf die mittleren Vorhersagehorizonte fokussiert, in denen Determinismus in Stochastik übergeht; (ii) einer effizienten Initialisierungsstrategie, die ein vortrainiertes EDM für das erste Vorhersagefenster nutzt; und (iii) einer maßgeschneiderten hybriden Sequenzarchitektur zur robusten extrahierenden Verarbeitung von räumlich-zeitlichen Merkmalen unter fortschreitender Entrauschung. Auf 2D-Navier-Stokes-Simulationen sowie auf die globale Wettervorhersage mit ERA5-Daten in 1,5°-Auflösung übertrifft ERDM konsistent zentrale Diffusions-basierte Baselines, darunter auch bedingte autoregressive EDM-Modelle. ERDM stellt ein flexibles und leistungsfähiges allgemeines Framework für die Lösung von Diffusions-basierten Sequenzgenerierungsproblemen dar, bei denen die Modellierung einer zunehmenden Unsicherheit von entscheidender Bedeutung ist. Der Quellcode ist verfügbar unter: this https URL