2 个月前

WiLoR:野外环境下的端到端3D手部定位与重建

Potamias, Rolandos Alexandros ; Zhang, Jinglei ; Deng, Jiankang ; Zafeiriou, Stefanos
摘要

近年来,由于在人机交互、虚拟现实和机器人技术中的广泛应用,3D手部姿态估计方法受到了广泛关注。相比之下,手部检测流程中存在显著的不足,给构建有效的现实世界多手重建系统带来了重大挑战。在这项工作中,我们提出了一种数据驱动的多手野外高效重建流水线。该流水线由两个组件构成:实时全卷积手部定位模型和高保真基于Transformer的3D手部重建模型。为了克服先前方法的局限性并建立一个稳健且稳定的检测网络,我们引入了一个大规模数据集,包含超过200万张具有多样化光照、照明和遮挡条件的野外手部图像。我们的方法在流行的2D和3D基准测试中,在效率和准确性方面均优于先前的方法。最后,我们展示了该流水线在单目视频中实现平滑3D手部跟踪的有效性,而无需使用任何时间组件。代码、模型和数据集可在以下网址获取:https://rolpotamias.github.io/WiLoR。