2 个月前

BEAT:长期时间序列预测中的平衡频率自适应调优

Zhixuan Li; Naipeng Chen; Seonghwa Choi; Sanghoon Lee; Weisi Lin
BEAT:长期时间序列预测中的平衡频率自适应调优
摘要

时间序列预测对于许多实际应用至关重要,包括天气预报和金融市场建模。尽管时域方法仍然广泛使用,频域方法能够有效捕捉多尺度周期模式,减少序列依赖,并自然地去噪信号。然而,现有的方法通常在统一的训练目标下为所有频率训练模型组件,这往往导致学习速度不匹配:高频组件收敛更快且容易过拟合,而低频组件由于训练时间不足而欠拟合。为了应对这一挑战,我们提出了一种新的框架——BEAT(平衡频率自适应调优),该框架动态监控每个频率的训练状态并自适应调整其梯度更新。通过识别每个频率的收敛、过拟合或欠拟合情况,BEAT 动态重新分配学习优先级,对快速学习者进行梯度调节,并增加缓慢学习者的梯度,从而缓解不同频率之间竞争目标之间的紧张关系,并同步整体学习过程。在七个真实世界数据集上的大量实验表明,BEAT 一贯优于当前最先进的方法。

BEAT:长期时间序列预测中的平衡频率自适应调优 | 最新论文 | HyperAI超神经