HyperAIHyperAI

Command Palette

Search for a command to run...

FourCastNet3: Schnelle, genaue Wettervorhersage mit ML

FourCastNet3 (FCN3) ist das neueste KI-basierte globale Wettervorhersagesystem von NVIDIA Earth-2. Es kombiniert eine hohe probabilistische Genauigkeit, Recheneffizienz, Spektralfidelität, Ensemble-Kalibrierung und Stabilität auf subseasonalen Zeitskalen. Seine Vorhersagegenauigkeit auf mittleren Zeitskalen ist mit führenden maschinellen Lernmodellen wie GenCast vergleichbar und übertrifft traditionelle numerische Wettermodelle wie IFS-ENS. Ein 60-Tage-Vorhersage-Modell mit 0,25° Auflösung und 6-Stunden-Intervallen wird auf einer NVIDIA H100 Tensor Core GPU in weniger als vier Minuten berechnet, was eine 8-fache Geschwindigkeitssteigerung gegenüber GenCast und eine 60-fache gegenüber IFS-ENS darstellt. FCN3 verwendet eine vollständig konvolutionale, sphärische Neurale-Operator-Architektur, die auf sphärischen Signalverarbeitungsprimitiven basiert. Im Gegensatz zu FourCastNet2, das auf dem Spherical Fourier Neural Operator basiert, nutzt FCN3 lokale sphärische und spektrale Konvolutionen. Diese werden mit Morlet-Wavelets parametrisiert und in der Rahmenbedingung von diskreten- kontinuierlichen Gruppenkonvolutionen formuliert. Dies ermöglicht anisotrope, lokale Filter, die gut für lokale atmosphärische Phänomene geeignet sind, und sorgt gleichzeitig für Rechen-effizienz durch eine benutzerdefinierte Implementierung in NVIDIA CUDA. Stochastizität wird in jedem Vorherschritt durch einen latente Rauschvariablen eingeführt, deren Entwicklung durch einen Diffusionsprozess auf der Kugel bestimmt wird. Diese versteckte Markov-Formulierung erlaubt eine effiziente Erzeugung von Ensemble-Mitgliedern in einem Schritt, was einen Vorteil gegenüber Diffusionsmodelle-basierten Ansätzen darstellt. FCN3 wird gemeinsam als Ensemble trainiert, wobei eine kombinierte Verlustfunktion genutzt wird, die die kontinuierlich bewertete Wahrscheinlichkeitsscore (CRPS) in Raum und Spektralbereich berücksichtigt. Dies stellt sicher, dass FCN3 die richtigen räumlichen Korrelationen in den zugrunde liegenden stochastischen atmosphärischen Prozessen lernt. Um die Skalierung zu erreichen, wird ein neues Paradigma für Modell-Parallelität eingeführt, inspiriert von der Domänenzerlegung in traditionellen numerischen Wettermodellen. Dies ermöglicht es, größere Modelle in den VRAM zu integrieren, indem das Modell auf mehrere Geräte aufgeteilt wird, und reduziert gleichzeitig die Festplatten-IO pro Gerät. Für die Implementierung werden räumliche Operationen wie Konvolutionen über die NVIDIA Collective Communications Library (NCCL) in verteilter Weise ausgeführt. FCN3 wird auf bis zu 1.024 GPUs trainiert, wobei gleichzeitig Domänen-, Batch- und Ensemble-Parallelität genutzt wird. Die Vorhersagen von FCN3 zeigen eine gut kalibrierte Unsicherheit, da die Vorhersagegenauigkeit mit der beobachteten atmosphärischen Variabilität übereinstimmt. Die Rank-Histogramme und andere Diagnosen bestätigen, dass Ensemble-Mitglieder austauschbar mit realen Beobachtungen sind. Zudem bewahrt FCN3 die atmosphärischen Spektralzeichensignaturen über alle Skalen, wobei die Energiekaskade und Schärfe realer Wettermuster auch bei Vorhersagen bis zu 60 Tagen erhalten bleibt. Dies wird anhand von Vorhersagen der 500 hPa-Windintensität am 11. Februar 2020 demonstriert, kurz vor dem Einfall von Sturm Dennis über Europa. Die Vorhersagen sind genau und zeigen die Variabilität über verschiedene Längenskalen. Die Ergebnisse sind in Abbildung 4 dargestellt. Um FCN3 zu verwenden, ist ein vollständig trainiertes Modell auf NVIDIA NGC verfügbar. Eine einfache Möglichkeit zur Ausführung ist Earth2Studio. Für optimale Leistung wird empfohlen, torch-harmonics mit benutzerdefinierten CUDA-Erweiterungen zu installieren und automatische gemischte Präzision im bf16-Format zu nutzen. Industrieinsider loben FourCastNet3 als bedeutenden Schritt in der Datengetriebenen Wettervorhersage. Die Architektur ermöglicht eine effiziente und präzise Vorhersage über subseasonale Zeiträume. NVIDIA Earth-2 ist ein führendes Unternehmen in der Entwicklung von KI-Modellen für Wetter und Klima, während Caltech und LBNL als renommierte Forschungsinstitute in der Zusammenarbeit beteiligt sind. Die Technologien, wie CUDA und NCCL, sind entscheidend für die Leistungsfähigkeit des Modells.

Verwandte Links

FourCastNet3: Schnelle, genaue Wettervorhersage mit ML | Aktuelle Beiträge | HyperAI