2ヶ月前

STM: 空間時間および運動エンコーディングによる行動認識

Boyuan Jiang; Mengmeng Wang; Weihao Gan; Wei Wu; Junjie Yan
STM: 空間時間および運動エンコーディングによる行動認識
要約

空間時間的特徴と運動特徴は、ビデオアクション認識において補完的かつ重要な情報です。最近の最先端手法では、3D CNNストリームを用いて空間時間的特徴を学習し、別のフローストリームで運動特徴を学習しています。本研究では、これらの2つの特徴を効率的に統一的な2Dフレームワークにエンコードすることを目指します。そのため、まずSTMブロック(Spatial-Temporal-Motion Block)を提案します。このブロックには、空間時間的特徴を表現するチャネルごとの空間時間モジュール(Channel-wise SpatioTemporal Module: CSTM)と、運動特徴を効率的にエンコードするチャネルごとの運動モジュール(Channel-wise Motion Module: CMM)が含まれています。次に、ResNetアーキテクチャの元の残差ブロックをSTMブロックに置き換えることで、非常に限定的な追加計算コストで単純かつ効果的なSTMネットワークを形成します。広範な実験結果から、提案したSTMネットワークは、時間関連データセット(Something-Something v1 & v2およびJester)と場面関連データセット(Kinetics-400、UCF-101およびHMDB-51)において、空間時間的特徴と運動特徴を一緒にエンコードすることで最先端手法を超える性能を示していることが確認されました。