8 天前

基于生物力学约束的弱监督3D手部姿态估计

Adrian Spurr, Umar Iqbal, Pavlo Molchanov, Otmar Hilliges, Jan Kautz
基于生物力学约束的弱监督3D手部姿态估计
摘要

从二维图像估计三维手部姿态是一个困难的逆问题,主要源于固有的尺度和深度模糊性。当前最先进的方法通常采用带有三维真实标注数据的全监督深度神经网络进行训练。然而,获取三维标注成本高昂,通常需要经过标定的多视角采集系统,或依赖繁琐的人工标注。尽管二维关键点的标注相对容易获取,但如何高效利用这类弱监督数据以提升三维手部姿态预测性能,仍然是一个重要的开放性问题。其核心难点在于,直接引入额外的二维监督信号主要有助于优化二维代理目标,却难以有效缓解深度与尺度的模糊性。针对这一挑战,我们提出了一组新颖的损失函数。通过大量实验验证,我们证明所提出的约束条件能够显著降低深度模糊性,并使网络更有效地利用额外的二维标注图像。例如,在具有挑战性的freiHAND数据集上,仅使用额外的二维标注而未引入我们提出的生物力学约束时,深度误差仅降低15%;而当引入所提出的生物力学约束后,深度误差显著降低了50%。