エンドツーエンドの動作表現学習によるビデオ理解

最近のエンドツーエンド学習表現の成功にもかかわらず、手作りのオプティカルフロー特徴量は依然としてビデオ解析タスクで広く使用されています。このギャップを埋めるために、我々はTVNetという新しいエンドツーエンド学習可能なニューラルネットワークを提案します。TVNetは特定のオプティカルフローソルバーであるTV-L1法を包含し、その最適化反復をニューラル層として展開することで初期化されます。したがって、TVNetは追加の学習なしで直接使用することができます。さらに、他のタスク固有のネットワークと自然に連結してエンドツーエンドのアーキテクチャを構築することができ、これにより現在の多段階アプローチよりも効率的になります。ディスク上に特徴量を事前に計算および保存する必要がなくなります。最後に、TVNetのパラメータはエンドツーエンドでの訓練によってさらに微調整することができます。これにより、TVNetは正確なオプティカルフローを超えた豊かなタスク固有のパターンを学習することが可能になります。2つの行動認識ベンチマークにおける広範な実験により、提案手法の有効性が確認されました。我々のTVNetは比較対象となるすべての方法よりも高い精度を達成しており、特徴量抽出時間においても最速の対応手法と競争力があります。注:「エンドツーエンド」(end-to-end)、「オプティカルフロー」(optical flow)、「ニューラルネットワーク」(neural network)、「最適化反復」(optimization iterations)、「ベンチマーク」(benchmark)などの用語は一般的な日本語訳を使用しています。「TV-L1法」(TV-L1 method)については専門的な訳語を使用しました。