要約
近年、時系列予測におけるTransformerベースのモデルの応用が注目を集めている。多くの場合、有望な結果を示す一方で、Transformerアーキテクチャはそのアテンション機構の特性上、時系列データ内の時空間的関係を十分に活用できないという課題に直面している。本研究では、指数分解を活用する新しい二重ストリームアーキテクチャ「eXponential Patch（通称：xPatch）」を提案する。古典的な指数平滑法に着想を得て、xPatchは独創的な季節成分・トレンド成分の指数分解モジュールを導入している。さらに、MLPを基盤とする線形ストリームとCNNを基盤とする非線形ストリームから構成される二重フロー構造を提案する。本モデルは、Transformer以外の枠組みにおいて、パッチ化（patching）およびチャネル独立性（channel-independence）技術の利点を検証している。最終的に、過学習を抑制し予測性能を向上させるため、堅牢なアークタンジェント損失関数とシグモイド関数を用いた学習率調整スキームを設計した。本研究のコードは以下のリポジトリにて公開されている：https://github.com/stitsyuk/xPatch。