空間時系列分解型マスク前学習による空間時系列予測

空間時系列予測技術は、交通、エネルギー、気象など多様な分野において重要性を有している。空間時系列の複雑な空間時的非均一性のため、正確な予測は依然として困難な課題である。特に、現在のエンドツーエンドモデルは入力長の制約に直面しており、結果として「空間時的錯覚（spatiotemporal mirage）」に陥りがちである。すなわち、類似した入力時系列に対して異なる将来値を予測する、あるいは逆に、異なる入力時系列が類似した将来値をもたらすといった状況が生じる。こうした問題に対処するため、本研究では、空間方向と時間方向に分離されたマスク付き自己符号化器（masked autoencoders）を用いて、空間時系列の再構成を実現する新しい自己教師付き前学習フレームワーク「Spatial-Temporal-Decoupled Masked Pre-training（STD-MAE）」を提案する。この再構成により学習された豊富な文脈表現は、任意のアーキテクチャを持つ下流予測モデルとシームレスに統合可能であり、性能の向上を実現する。STD-MAEの最先端性能を検証するため、広く用いられる6つのベンチマーク（PEMS03、PEMS04、PEMS07、PEMS08、METR-LA、PEMS-BAY）を対象に、定量的および定性的な一連の評価を実施した。実装コードは、https://github.com/Jimmy-7664/STD-MAE にて公開されている。