FiLM：長期時系列予測のための周波数改善型レジェンドル記憶モデル

近年の研究では、RNNやTransformerといった深層学習モデルが、時系列の長期予測において顕著な性能向上をもたらしていることが示されており、これは過去の情報を効果的に活用できるためである。しかしながら、我々は、ニューラルネットワークにおいて過去の情報を保持する方法と、過去データに含まれるノイズへの過剰適合を回避する方法の間で、まだ大きな改善の余地があることを明らかにした。この課題を解決することで、深層学習モデルの潜在能力をより効果的に活用することが可能になる。これを目的として、本研究では「頻度改善型レジェンドル記憶モデル（Frequency-improved Legendre Memory model, FiLM）」を提案する。FiLMは、過去の情報を近似するためにレジェンドル多項式の射影を適用し、ノイズを除去するためにフーリエ変換を用いるとともに、計算を高速化するための低ランク近似を導入している。実証的研究の結果、提案手法FiLMは、多変量および単変量の長期予測において、最先端モデルの精度をそれぞれ20.3%、22.6%向上させることを示した。さらに、本研究で開発した表現モジュールが、他の深層学習モデルの長期予測性能を向上させる汎用的なプラグインとして利用可能であることも実証した。コードは以下のURLから公開されている：https://github.com/tianzhou2011/FiLM/