VCformer: Variable Correlation Transformer mit inhärenter verzögerter Korrelation für die mehrdimensionale Zeitreihenprognose

Die Vorhersage multivariater Zeitreihen (MTS) wird bereits umfassend in verschiedenen Anwendungsbereichen eingesetzt, beispielsweise bei Wettervorhersagen und der Prognose des Energieverbrauchs. Dennoch stützen sich derzeitige Studien weiterhin auf die herkömmliche punktweise Selbst-Attention-Mechanismen, um Abhängigkeiten zwischen Variablen zu erfassen, was sich als unzureichend erweist, wenn es darum geht, die komplexen Kreuzkorrelationen zwischen den Variablen zu extrahieren. Um diese Lücke zu schließen, stellen wir den Variable Correlation Transformer (VCformer) vor, der eine Variable Correlation Attention (VCA)-Komponente nutzt, um Korrelationen zwischen Variablen zu erkennen. Insbesondere basierend auf der Theorie stochastischer Prozesse berechnet und integriert die VCA die Kreuzkorrelationswerte für verschiedene Verzögerungen zwischen Queries und Keys, wodurch ihre Fähigkeit zur Entdeckung multivariater Beziehungen signifikant verbessert wird. Darüber hinaus entwickeln wir inspiriert von der Koopman-Dynamik-Theorie den Koopman Temporal Detector (KTD), um die Nichtstationarität in Zeitreihen effektiver zu bewältigen. Die beiden zentralen Komponenten ermöglichen es dem VCformer, sowohl multivariate Korrelationen als auch zeitliche Abhängigkeiten zu erfassen. Unser umfangreicher Experimente an acht realen Datensätzen belegen die Wirksamkeit des VCformer und zeigen, dass er gegenüber anderen state-of-the-art-Benchmark-Modellen eine Spitzenleistung erzielt. Der Quellcode ist in diesem Repository verfügbar: https://github.com/CSyyn/VCformer.