Selbstüberwachtes kontrastives Lernen für langfristige Vorhersage

Die Langzeitprognose stellt aufgrund der zeitlichen und speicherbasierten Komplexität bei der Behandlung langer Sequenzen besondere Herausforderungen dar. Bestehende Methoden, die auf gleitenden Fenstern basieren, um lange Sequenzen zu verarbeiten, sind darauf beschränkt, langfristige Variationen effektiv zu erfassen, wenn diese nur teilweise innerhalb des kurzen Fensters liegen (sogenannte „Außenfenster-Variationen“). In diesem Artikel stellen wir einen neuartigen Ansatz vor, der diese Einschränkung überwindet, indem er kontrastives Lernen und eine verbesserte Zerlegungsarchitektur nutzt, die speziell darauf abgestimmt ist, langfristige Variationen zu erfassen. Hierbei integriert unsere kontrastive Verlustfunktion die globale Autokorrelation, die in der gesamten Zeitreihe enthalten ist, um positiv-negative Paare auf selbstüberwachter Weise zu konstruieren. In Kombination mit unseren Zerlegungsnetzwerken führt unser kontrastives Lernen zu einer signifikanten Verbesserung der Leistung bei der Langzeitprognose. Umfangreiche Experimente zeigen, dass unser Ansatz in mehreren Experimenten an neun verschiedenen Langzeit-Benchmark-Datenmengen 14 Baseline-Modelle übertrifft, insbesondere in anspruchsvollen Szenarien, bei denen eine erheblich längere Ausgabe für die Prognose erforderlich ist. Der Quellcode ist unter https://github.com/junwoopark92/Self-Supervised-Contrastive-Forecasting verfügbar.