ビデオにおける時間畳み込みと半教師あり学習を用いた3Dヒューマンポーズ推定

本研究において、2Dキーポイントに対する拡張テンポラル畳み込みを用いた完全畳み込みモデルを使用することで、ビデオ内の3D姿勢を効果的に推定できることを示しています。また、ラベルの付いていないビデオデータを活用する単純かつ効果的な半教師付き学習手法であるバックプロジェクションを導入しています。まず、ラベルの付いていないビデオに対して予測された2Dキーポイントから始まり、3D姿勢を推定し、最後に再び入力2Dキーポイントへとバックプロジェクションを行います。教師付き設定では、当社の完全畳み込みモデルはHuman3.6Mデータセットにおいて平均関節位置誤差が6mm改善され、前文献の最良結果よりも11%の誤差削減を達成しました。また、HumanEva-Iデータセットでも著しい改善が見られました。さらに、バックプロジェクションの実験では、ラベル付きデータが少ない半教師付き設定においても従来の最先端結果を大幅に上回ることが確認されました。コードおよびモデルは以下のURLで公開されています: https://github.com/facebookresearch/VideoPose3D