Réseau neuronal de graphe spatio-temporel amélioré par pré-entraînement pour la prévision de séries temporelles multivariées

La prévision des séries temporelles multivariées (MTS) joue un rôle fondamental dans un large éventail d'applications. Récemment, les réseaux neuronaux graphes spatio-temporels (STGNN) sont devenus des méthodes de prévision MTS de plus en plus populaires. Les STGNN modélisent conjointement les motifs spatiaux et temporels des MTS à l'aide de réseaux neuronaux graphes et de modèles séquentiels, améliorant considérablement la précision des prédictions. Toutefois, limités par leur complexité, la plupart des STGNN ne prennent en compte que des données historiques à court terme, par exemple des données des dernières heures. Or, les motifs des séries temporelles et leurs dépendances respectives (c’est-à-dire les motifs spatiaux et temporels) nécessitent une analyse fondée sur des données historiques à long terme. Pour remédier à ce problème, nous proposons un cadre novateur dans lequel le STGNN est amélioré par un modèle pré-entraîné à grande échelle pour les séries temporelles (STEP). Plus précisément, nous concevons un modèle de pré-entraînement capable d’apprendre efficacement les motifs temporels à partir de séries temporelles historiques très longues (par exemple, les deux dernières semaines) et de générer des représentations au niveau des segments. Ces représentations fournissent des informations contextuelles pour les entrées à court terme des STGNN et facilitent la modélisation des dépendances entre les séries temporelles. Des expériences menées sur trois jeux de données réels publics démontrent que notre cadre permet d’améliorer significativement les STGNN en aval, et que notre modèle de pré-entraînement capte adéquatement les motifs temporels.