FiLM: Frequency-improver Legendre Memory Modell für die Langzeit-Zeitreihen-Vorhersage

Neuere Studien haben gezeigt, dass tiefgreifende Lernmodelle wie RNNs und Transformers erhebliche Leistungssteigerungen bei der langfristigen Vorhersage von Zeitreihen ermöglicht haben, da sie historische Informationen effektiv nutzen. Wir konnten jedoch feststellen, dass noch erhebliches Verbesserungspotenzial besteht, was die Erhaltung historischer Informationen in neuronalen Netzwerken betrifft, ohne gleichzeitig übermäßig auf Rauschen in der Historie zu überfitten. Die Behandlung dieses Problems ermöglicht eine bessere Ausnutzung der Fähigkeiten tiefgreifender Lernmodelle. Hierzu entwickeln wir ein \textbf{F}requenz-\textbf{i}mproved \textbf{L}egendre \textbf{M}emory-Modell, kurz {\bf FiLM}: Es wendet Projektionen mittels Legendre-Polynome zur Approximation historischer Informationen an, nutzt Fourier-Projektionen zur Rauschunterdrückung und fügt eine Niedrigrang-Approximation hinzu, um die Berechnung zu beschleunigen. Unsere empirischen Studien zeigen, dass das vorgeschlagene FiLM die Genauigkeit state-of-the-art-Modelle sowohl bei multivariater als auch bei univariater langfristiger Vorhersage signifikant verbessert – um (\textbf{20,3\%}, \textbf{22,6\%}) jeweils. Zudem demonstrieren wir, dass der entwickelte Repräsentationsmodul als allgemeiner Plug-in zur Verbesserung der langfristigen Vorhersageleistung anderer tiefgreifender Lernmodule genutzt werden kann. Der Quellcode ist unter https://github.com/tianzhou2011/FiLM/ verfügbar.