8日前

シャッフルアテンション:ビデオドメイン適応

{Jia-Bin Huang, Gaurav Sharma, Jinwoo Choi, Samuel Schulter}
シャッフルアテンション:ビデオドメイン適応
要約

人間の行動認識を目的とした動画におけるドメイン適応問題に取り組む。画像ベースのドメイン適応の知見にインスパイアされ、ソース動画とターゲット動画のフレームまたはクリップの特徴を一致させることで動画の適応が可能となる。しかし、すべてのクリップを均等に一致させることは最適ではない。なぜなら、すべてのクリップがタスクに有用な情報を持っているわけではないからである。本研究の第一の新規性として、より識別的なクリップに注目する注目機構(attention mechanism)を提案する。この機構は、クリップレベルではなく動画レベルでの一致を直接最適化することを可能にする。また、ソースとターゲット間で背景が大きく異なることが一般的であるため、ソースデータの背景に汚染されたモデルはターゲットドメインの動画への適応が不十分となる。これを緩和するため、第二の新規性として、クリップの順序予測を補助タスクとして用いる手法を提案する。このクリップ順序予測損失をドメイン敵対的損失と組み合わせることで、背景(ソースとターゲットで大きく異なる情報)に依存せず、行動に関わる人物や物体に焦点を当てた表現の学習を促進する。実証的に、両方の構成要素が適応性能の向上に正の貢献をしていることを示した。また、UCFおよびHMDBデータセットに基づく2つの難易度の高い公開ベンチマーク、およびKineticsからNEC-Droneデータセットへの適応を含む3つのベンチマークのうち、2つにおいて最先端の性能を達成した。さらに、定性的な結果を通じて、提案手法の直感的妥当性と実効性を裏付けている。

シャッフルアテンション:ビデオドメイン適応 | 最新論文 | HyperAI超神経