HyperAIHyperAI

Command Palette

Search for a command to run...

FiLM:長期時系列予測のための周波数改善型レジェンドル記憶モデル

Tian Zhou Ziqing Ma Xue wang Qingsong Wen Liang Sun Tao Yao Wotao Yin Rong Jin

概要

近年の研究では、RNNやTransformerといった深層学習モデルが、時系列の長期予測において顕著な性能向上をもたらしていることが示されており、これは過去の情報を効果的に活用できるためである。しかしながら、我々は、ニューラルネットワークにおいて過去の情報を保持する方法と、過去データに含まれるノイズへの過剰適合を回避する方法の間で、まだ大きな改善の余地があることを明らかにした。この課題を解決することで、深層学習モデルの潜在能力をより効果的に活用することが可能になる。これを目的として、本研究では「頻度改善型レジェンドル記憶モデル(Frequency-improved Legendre Memory model, FiLM)」を提案する。FiLMは、過去の情報を近似するためにレジェンドル多項式の射影を適用し、ノイズを除去するためにフーリエ変換を用いるとともに、計算を高速化するための低ランク近似を導入している。実証的研究の結果、提案手法FiLMは、多変量および単変量の長期予測において、最先端モデルの精度をそれぞれ20.3%、22.6%向上させることを示した。さらに、本研究で開発した表現モジュールが、他の深層学習モデルの長期予測性能を向上させる汎用的なプラグインとして利用可能であることも実証した。コードは以下のURLから公開されている:https://github.com/tianzhou2011/FiLM/


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています