HyperAI
Command Palette
Search for a command to run...
時系列予測向けのデコーダーのみを備えたファウンデーションモデル
時系列予測向けのデコーダーのみを備えたファウンデーションモデル
Abhimanyu Das Weihao Kong Rajat Sen Yichen Zhou
概要
自然言語処理(NLP)分野における大規模言語モデルの最近の進展に触発され、本研究では予測のための時系列基盤モデルを設計した。このモデルは、多数の公開データセットにおいて、事前学習済みのゼロショット(zero-shot)性能が、各データセットごとに達成される最新の教師あり予測モデルの精度に非常に近づくことを実現した。本モデルは、大規模な時系列コーパス上で、パッチ化デコーダー型のアテンション構造を用いた事前学習に基づいており、異なる予測履歴長、予測期間、時間的粒度に対しても良好な性能を発揮できる。