17 天前

预训练增强的时空图神经网络用于多变量时间序列预测

Zezhi Shao, Zhao Zhang, Fei Wang, Yongjun Xu
预训练增强的时空图神经网络用于多变量时间序列预测
摘要

多变量时间序列(Multivariate Time Series, MTS)预测在众多应用场景中发挥着至关重要的作用。近年来,时空图神经网络(Spatial-Temporal Graph Neural Networks, STGNNs)作为一种主流的MTS预测方法日益受到关注。STGNN通过图神经网络与序列模型联合建模MTS的时空模式,显著提升了预测精度。然而,受限于模型复杂度,大多数现有STGNN仅能利用短期历史数据(如过去一小时的数据),难以充分捕捉时间序列的长期演化规律及其相互依赖关系(即时空模式)。为解决这一问题,本文提出一种新型框架,通过引入可扩展的时间序列预训练模型(Scalable Time series Pre-training model, STEP)来增强STGNN。具体而言,我们设计了一种预训练模型,能够高效地从极长周期的历史时间序列(例如过去两周的数据)中学习时间模式,并生成片段级表征(segment-level representations)。这些表征为输入STGNN的短期时间序列提供了丰富的上下文信息,有助于建模序列间的依赖关系。在三个公开的真实世界数据集上的实验结果表明,所提出的框架能够显著提升下游STGNN的性能,且预训练模型能够准确捕捉时间序列中的长期时间模式。