HyperAIHyperAI
vor 15 Tagen

xPatch: Dual-Stream Zeitreihenprognose mit exponentieller saisonaler-Trend-Zerlegung

Artyom Stitsyuk, Jaesik Choi
xPatch: Dual-Stream Zeitreihenprognose mit exponentieller saisonaler-Trend-Zerlegung
Abstract

In den letzten Jahren hat die Anwendung transformerbasierter Modelle in der Zeitreihenprognose erhebliche Aufmerksamkeit erfahren. Obwohl diese Ansätze oft vielversprechende Ergebnisse liefern, begegnet die Transformer-Architektur aufgrund ihres Aufmerksamkeitsmechanismus Herausforderungen bei der vollständigen Ausnutzung der zeitlichen Beziehungen in Zeitreihendaten. In dieser Arbeit präsentieren wir eXponential Patch (kurz xPatch), eine neuartige Dual-Stream-Architektur, die auf der exponentiellen Zerlegung basiert. Inspiriert durch klassische Ansätze der exponentiellen Glättung führt xPatch ein innovatives Modul zur saisonalen-Trend-exponentiellen Zerlegung ein. Zudem schlagen wir eine Dual-Flow-Architektur vor, die aus einem MLP-basierten linearen Stream und einem CNN-basierten nichtlinearen Stream besteht. Das Modell untersucht die Vorteile der Verwendung von Patching- und Kanal-Unabhängigkeitstechniken innerhalb eines nicht-transformer-basierten Ansatzes. Schließlich entwickeln wir eine robuste Arctan-Verlustfunktion sowie ein Sigmoid-basiertes Lernraten-Anpassungsverfahren, die Überanpassung verhindern und die Prognoseleistung steigern. Der Quellcode ist unter folgendem Repository verfügbar: https://github.com/stitsyuk/xPatch.

xPatch: Dual-Stream Zeitreihenprognose mit exponentieller saisonaler-Trend-Zerlegung | Neueste Forschungsarbeiten | HyperAI