17 天前

时间序列胜过五位专家:用于交通流预测的异质专家混合模型

Guangyu Wang, Yujie Chen, Ming Gao, Zhiqiao Wu, Jiafu Tang, Jiabi Zhao
时间序列胜过五位专家:用于交通流预测的异质专家混合模型
摘要

准确的交通流量预测面临诸多挑战,亟需深入理解时间与空间特征及其在多变量之间的复杂交互关系。近年来,交通预测系统的主要进展得益于复杂序列中心化模型的发展。然而,现有方法通常在每个时间步嵌入多个变量及空间关系,这可能阻碍变量中心化学习的有效进行,最终导致传统交通预测任务性能下降。为克服上述局限,本文提出了一种面向变量中心化与先验知识中心化的建模方法。具体而言,我们提出了一个异构专家混合模型(Heterogeneous Mixture of Experts, TITAN),用于交通流预测。TITAN 初始包含三个专注于序列中心化建模的专家,随后设计了一种低秩自适应机制,使模型能够同时实现变量中心化建模。此外,我们采用先验知识中心化的门控策略对门控过程进行监督,以确保变量路由的准确性。在两个公开交通网络数据集 METR-LA 和 PEMS-BAY 上的实验表明,TITAN 能够有效捕捉变量中心化依赖关系,同时保障精确的路由决策。相较于此前的最先进(SOTA)模型,TITAN 在所有评估指标上均取得显著提升,性能提升幅度介于约 4.37% 至 11.53% 之间。代码已开源,地址为:https://github.com/sqlcow/TITAN。