
要約
本研究では、複数視点からの行動認識において学習された行動表現をビューリレバンツ情報から分離する新しい手法を提案します。複数の視点から行動インスタンスを分類しようとする際、異なるカメラ角度からの背景の違い、遮蔽、および可視性が問題となり、その難易度が高まります。このような多視点行動認識に伴う様々な課題に対処するために、我々は学習可能なトランスフォーマー・デコーダー・クエリの新しい構成と2つの教師ありコントラスティブ損失を組み合わせて提案します。これにより、視点の変化に強い行動特徴量の学習を強制します。我々の分離された特徴量学習は2段階で行われます:トランスフォーマー・デコーダーは個別のクエリを使用して行動情報と視点情報を別々に学習し、その後、2つのコントラスティブ損失によってさらに分離されます。実験結果から、NTU RGB+D, NTU RGB+D 120, PKU-MMD, およびN-UCLAという4つの多視点行動認識データセットにおいて、我々のモデルと訓練方法が他の全ての単一モーダルモデルを大幅に上回ることが示されました。既存のRGB関連研究と比較すると、それぞれのデータセットで最大1.5%, 4.8%, 2.2%, 以及4.8%の改善が見られました。