Pathformer：時系列予測のための多スケール変換器と適応経路

時系列予測に用いられるTransformerモデルは、主に限られたまたは固定されたスケールでの時系列のモデリングに特化しており、異なるスケールにわたる多様な特徴を捉えることが難しいという課題がある。本研究では、適応的パスを備えたマルチスケールTransformerであるPathformerを提案する。Pathformerは、時系列の時間的分解能と時間的距離の両方を統合し、マルチスケールモデリングを実現する。マルチスケール分割により、異なるサイズのパッチを用いて時系列を複数の時間的分解能に分割する。各スケールごとの分割に基づき、これらのパッチに対して二重のアテンションを適用することで、時系列依存性としてのグローバルな相関関係とローカルな詳細情報を同時に捉える。さらに、入力の時間的ダイナミクスの変化に応じてマルチスケールモデリングプロセスを適応的に調整する「適応的パス」を導入し、Pathformerの予測精度および汎化性能を向上させた。11の実世界データセットを用いた広範な実験により、Pathformerが既存のすべてのモデルを上回る最先端の性能を達成するとともに、様々な転移学習シナリオにおいても優れた汎化能力を示すことが実証された。コードはhttps://github.com/decisionintelligence/pathformerにて公開されている。