要約
多変量時系列（MTS）予測は、気象予測やエネルギー消費予測など、多岐にわたる分野で広く応用されている。しかし、現在の研究では、変数間の依存関係を捉えるために、従来のポイントワイズ自己注意（self-attention）機構に依存している。この手法は、変数間に内在する複雑なクロス相関を十分に抽出する能力に欠けており、限界がある。この課題を克服するため、本研究では変数相関トランスフォーマー（VCformer）を提案する。VCformerは、変数間の相関関係を効果的に抽出するための変数相関注意（VCA）モジュールを採用している。具体的には、確率過程論に基づき、クエリとキー間の異なるラグにおけるクロス相関スコアを計算・統合することで、多変量間の関係性をより深く発見する能力を向上させている。さらに、Koopman力学系理論に着想を得て、時系列の非定常性に対処するためのKoopman時系列検出器（KTD）も開発した。これらの2つの主要な構成要素により、VCformerは多変量間の相関関係と時系列的な依存関係の両方を効果的に抽出可能となる。8つの実世界データセットを用いた広範な実験により、VCformerの有効性が実証され、他の最先端モデルと比較してトップクラスの性能を達成した。コードは以下のリポジトリにて公開されている：https://github.com/CSyyn/VCformer。