MAGVIT：マスク付き生成型ビデオトランスフォーマー

我々は、単一のモデルで多様な動画合成タスクに取り組むため、MAsked Generative VIdeo Transformer（MAGVIT）を提案する。本研究では、動画を空間時間的な視覚トークンに量子化するための3Dトークナイザーを導入し、マスクされた動画トークンのモデリングを促進するための埋め込み手法を提案する。広範な実験を通じて、MAGVITの品質、効率性、柔軟性を実証した。実験結果から以下の点が明らかになった。(i) MAGVITは最先端の手法と比較しても優れた性能を示し、特に挑戦的なKinetics-600を含む3つの動画生成ベンチマークにおいて、公開されている最高のFVD（Fréchet Video Distance）を達成した。(ii) 従来の拡散モデルと比較して推論時間で2桁、自己回帰モデルと比較して60倍の高速性を実現した。(iii) 単一のMAGVITモデルが10種類の異なる生成タスクをサポートでき、異なる視覚ドメインからの動画に一般化する能力を有している。ソースコードおよび学習済みモデルは、https://magvit.cs.cmu.edu にて公開される予定である。