HyperAIHyperAI
vor 15 Tagen

LTBoost: Hochgeboostete Hybride aus Ensemble-Linearen und Gradienten-Algorithmen für die Langzeit-Zeitreihen-Vorhersage

{Zahra Ahmadi, Christian Kalfar, Hubert Truchan}
Abstract

Der Fortschritt von auf Deep Learning basierenden Vorhersagearchitekturen ist durch ihre stetig wachsenden Parameterkonfigurationen deutlich erkennbar. Dennoch erfordert die Notwendigkeit schneller Online-Entscheidungsfindung in praktischen Anwendungsszenarien eine alternative Strategie, die die Entwicklung von Netzwerken unterstreicht, die nicht nur adaptiv, sondern auch effizient im Echtzeitbetrieb sind. Dieser Wandel ist entscheidend, wenn man sich drei zentralen Herausforderungen in auf Deep Learning basierenden Vorhersagemodellen gegenüber sieht: (i) den inhärenten Grenzen von Transformers, deren Selbst-Attention-Mechanismen aufgrund ihrer permutationsinvarianten Natur eine unvermeidliche Verlust von zeitlichen Informationen aufweisen, obwohl sie versuchen, Ordnungsinformationen zu bewahren; (ii) der Unfähigkeit linearer Modelle, dynamische Wechselwirkungen in sich rasch verändernden Signalen zu erfassen; und (iii) der Unfähigkeit von baumbasierten Ansätzen, über die im Trainingsdatensatz vorhandenen Werte hinauszuextrapolieren. Um diesen Herausforderungen zu begegnen, stellen wir LTBoost vor – einen innovativen, auf Boosting basierenden hybriden Ansatz aus linearen und baumbasierten Ensemble-Gradientalgorithmen, speziell für Aufgaben der langfristigen Zeitreihenvorhersage (LTSF) konzipiert und skalierbar auf hohe Datendimensionen. LTBoost verfolgt eine zweistufige Strategie: Zunächst wird ein lineares Regressionsmodell eingesetzt, um Trends zu erfassen und über bekannte Daten hinaus zu extrapolieren, ergänzt durch ein robustes nichtlineares baumbasiertes Modell, das sich auf die Residuen konzentriert. Dieser hybride Boosting-Ansatz löst nicht nur die Probleme bestehender Modelle, sondern verbessert zudem signifikant die Vorhersagegenauigkeit. Die Wirksamkeit von LTBoost wird anhand empirischer Experimente an neun etablierten Benchmark-Datensätzen validiert und zeigt eine herausragende Leistung, wobei in 32 von 36 Fällen die bisher besten Ergebnisse gemessen an der mittleren absoluten Abweichung (MAE) erzielt werden. Zudem untersuchen wir den Einfluss von Verzögerungsmerkmalen (Lag-Features) und Signal-Normalisierungstechniken, wobei sich weitere Verbesserungen der Vorhersagegenauigkeit ergeben. Dieser hybride und äußerst effektive Ansatz unterstreicht die Innovativität von LTBoost und seine Fähigkeit, spezifische Herausforderungen der Zeitreihenvorhersage zu bewältigen, und legt den Grundstein für seinen Beitrag zum Forschungsfeld der Zeitreihenanalyse sowie für deren Anwendung in vielfältigen realen Szenarien.

LTBoost: Hochgeboostete Hybride aus Ensemble-Linearen und Gradienten-Algorithmen für die Langzeit-Zeitreihen-Vorhersage | Neueste Forschungsarbeiten | HyperAI