動画認識のためのマルチビュー変換器

動画理解には、短時間の細粒度な運動から長時間にわたるイベントまで、複数の空間時間的解像度における推論が求められる。近年、トランスフォーマー構造が最先端の性能を達成したものの、それらは異なる空間時間的解像度を明示的にモデル化してこなかった。このような課題に対処するため、本研究では動画認識のためのマルチビュー・トランスフォーマー（Multiview Transformers for Video Recognition, MTV）を提案する。本モデルは、入力動画の異なる視点を別々のエンコーダで表現し、視点間で情報を統合するための横方向の接続を備えている。提案モデルについて、幅広いアブレーションスタディを実施し、モデルサイズの異なるさまざまな設定において、単一視点モデルと比較して、精度および計算コストの面で一貫して優れた性能を発揮することを示した。さらに、6つの標準データセットにおいて最先端の結果を達成し、大規模な事前学習を組み合わせることで、さらなる性能向上を実現した。コードおよびモデルチェックポイントは、以下のURLから入手可能である：https://github.com/google-research/scenic/tree/main/scenic/projects/mtv。