Command Palette
Search for a command to run...
ポーズおよびジョイント認識に基づくアクション認識
ポーズおよびジョイント認識に基づくアクション認識
Anshul Shah Shlok Mishra Ankan Bansal Jun-Cheng Chen Rama Chellappa Abhinav Shrivastava
概要
近年の行動認識に関する進展は、主にRGB画像および光流(optical flow)特徴に注目が集まっていた。本論文では、関節に基づく行動認識という新たなアプローチを提示する。他のモダリティとは異なり、関節の配置とその運動から得られる構造的パターンは、行動認識に適した簡潔な人体運動情報を表現する。本研究では、まず共有された運動エンコーダを用いて各関節から個別に運動特徴を抽出し、その後、集団的な推論を行う新しいモデルを提案する。さらに、関節選択モジュールを導入し、タスクに最も判別力のある関節を選択・再重み付けすることで、特徴の有効性を高めている。また、同一の行動を表現する関節特徴群を引き寄せる新しい「関節対比損失(joint-contrastive loss)」を提案する。さらに、姿勢ヒートマップに微小なノイズ(jitter)を加える幾何学的意識型データ拡張技術を用いることで、行動の動的特性を保持しつつ、関節ベースの表現力を強化している。JHMDB、HMDB、Charades、AVA行動認識データセットにおいて、現在の最先端の関節ベース手法と比較して大幅な性能向上を示した。RGBおよび光流ベースのアプローチとのラテフュージョンにより、さらなる性能改善も達成した。また、文脈外の行動を含むMimeticsデータセットにおいても、既存のベースラインを上回る性能を発揮した。