Command Palette
Search for a command to run...
UniTime:マルチドメイン時系列予測を実現する言語駆動型統合モデル
UniTime:マルチドメイン時系列予測を実現する言語駆動型統合モデル
Xu Liu Junfeng Hu Yuan Li Shizhe Diao Yuxuan Liang Bryan Hooi Roger Zimmermann
概要
多変量時系列予測は、現代のウェブ技術において中心的な役割を果たしている。従来のアプローチでは、特定の時系列アプリケーション分野に対して専用のモデルを構築する必要があったが、本研究では、領域の境界を越えて汎用的に適用可能な統一モデルの枠組みを提唱する。しかし、効果的な跨領域モデルを学習する過程には以下の課題が存在する。第一に、異なる領域間でデータの特性に差異が生じる(例えば変数の数が異なるなど)、これにより既存のモデルがこれらの要因に対して柔軟性に欠ける固定制約を課すことで、学習の困難が生じる。第二に、モデルが異なる領域のデータを明確に区別できず、評価結果において最適な性能を発揮できない可能性がある。第三に、時系列領域ごとの収束速度の多様性も、実証的な性能を低下させる要因となる。これらの課題に対処するため、本研究では効果的な跨領域時系列学習を実現するUniTimeを提案する。具体的には、UniTimeは、特性が異なるデータに柔軟に適応可能である。また、領域の指示(domain instructions)とLanguage-TS Transformerを用いて、識別情報を提供し、2つのモダリティ間の整合性を図っている。さらに、マスキング戦略を導入することで、領域間の収束速度の不均衡を緩和している。広範な実験を通じて、UniTimeが最先端の予測性能を向上させるとともに、ゼロショット転移性(zero-shot transferability)を実現できることを示した。