HybridCap：慣性補助型モノクロナリックな困難な人体運動のキャプチャ

単眼3次元モーションキャプチャ（mocap）は、多くの応用において有益である。しかし、単一のカメラを用いる場合、身体部位同士の隠蔽（オクルージョン）に対処できず、結果として比較的単純な動きのキャプチャに限定されることが多い。本研究では、学習と最適化のフレームワーク内でカメラにわずか4つの慣性測定ユニット（IMU）を追加する軽量かつハイブリッド型モーションキャプチャ手法、HybridCapを提案する。まず、協調的ゲート付き再帰ユニット（GRU）ブロックを用いた弱教師ありかつ階層的な運動推定モジュールを導入し、四肢・体幹・根元のトラッキングおよび逆運動学ソルバとして機能させる。本ネットワークは、粗いから細かいポーズ推定の段階的アプローチにより、妥当な運動の探索空間を効果的に絞り込み、高い効率で困難な動きを処理することが可能となる。さらに、慣性フィードバックと視覚的情報を統合するハイブリッド最適化スキームを構築し、トラッキング精度を向上させた。複数のデータセットを用いた広範な実験により、HybridCapがフィットネス動作からラテンダンスまで多様な困難な動きを堅牢に処理できることを示した。また、最先端の精度を維持しつつ、最大60 fpsのリアルタイム性能を達成している。