17 天前
STAEformer:时空自适应嵌入使普通Transformer在交通预测中达到SOTA性能
Hangchen Liu, Zheng Dong, Renhe Jiang, Jiewen Deng, Jinliang Deng, Quanjun Chen, Xuan Song

摘要
随着智能交通系统(Intelligent Transportation System, ITS)的快速发展,精准的交通流量预测已成为一项关键挑战。其核心瓶颈在于如何有效捕捉交通数据中复杂的时空动态模式。近年来,研究者提出了大量结构复杂的神经网络模型以应对这一问题,然而,网络架构的持续演进已逐渐面临性能提升乏力的困境。在本研究中,我们提出一种新型组件——时空自适应嵌入(Spatio-Temporal Adaptive Embedding),该组件能够在基础Transformer模型上实现卓越的预测效果。我们所提出的时空自适应嵌入Transformer模型(STAEformer)在五个真实世界交通预测数据集上均取得了当前最优的性能表现。进一步实验表明,时空自适应嵌入在交通预测中发挥着关键作用,能够有效捕捉交通时间序列中的内在时空关联性与时间顺序信息。