BEAT : Équilibrage Adaptatif de Fréquence pour la Prévision à Long Terme des Séries Temporelles

La prévision de séries temporelles est cruciale pour de nombreuses applications réelles, notamment la prédiction météorologique et la modélisation des marchés financiers. Bien que les méthodes dans le domaine temporel restent prédominantes, les approches dans le domaine fréquentiel peuvent capturer efficacement des motifs périodiques à plusieurs échelles, réduire les dépendances séquentielles et débruiter naturellement les signaux. Cependant, les approches existantes entraînent généralement tous les composants du modèle pour toutes les fréquences sous un objectif d'entraînement unifié, ce qui conduit souvent à des vitesses d'apprentissage incompatibles : les composants à haute fréquence convergent plus rapidement et courent le risque de surapprendre, tandis que ceux à basse fréquence sous-apprennent en raison d'un temps d'entraînement insuffisant. Pour faire face à ce défi, nous proposons BEAT (Balanced frEquency Adaptive Tuning), un cadre novateur qui surveille dynamiquement l'état d'entraînement de chaque fréquence et ajuste de manière adaptative leurs mises à jour de gradient. En identifiant la convergence, le surapprentissage ou le sous-apprentissage pour chaque fréquence, BEAT réalloue dynamiquement les priorités d'apprentissage, modérant les gradients pour les apprenants rapides et augmentant ceux pour les apprenants plus lents, atténuant ainsi la tension entre les objectifs concurrents à travers les fréquences et synchronisant le processus d'apprentissage global. Des expériences étendues sur sept jeux de données réels montrent que BEAT surpasse constamment les approches de pointe actuelles.