Régression pixel par pixel : Estimation de la pose 3D de la main via une représentation en forme spatiale et un décodeur différentiable

L'estimation de la posture de la main en 3D à partir d'une seule image de profondeur est un sujet essentiel dans le domaine de la vision par ordinateur et de l'interaction homme-machine. Bien que l'émergence des méthodes d'apprentissage profond ait considérablement amélioré la précision, le problème reste difficile à résoudre en raison de la structure complexe de la main humaine. Les méthodes existantes basées sur l'apprentissage profond perdent soit les informations spatiales de la structure de la main, soit manquent d'une supervision directe des coordonnées articulaires. Dans cet article, nous proposons une nouvelle méthode de régression pixel par pixel, qui utilise une représentation sous forme spatiale (SFR) et un décodeur différentiable (DD) pour résoudre ces deux problèmes. Pour utiliser notre méthode, nous avons construit un modèle dans lequel nous avons conçu une SFR spécifique et son DD correspondant, divisant les coordonnées articulaires 3D en deux parties : les coordonnées planaires et les coordonnées de profondeur, et utilisant deux modules nommés Régression Planaire (PR) et Régression Profonde (DR) pour traiter chacune d'elles respectivement. Nous avons mené une expérience d'ablation pour montrer que notre méthode obtient des résultats supérieurs aux méthodes précédentes. Nous avons également exploré l'influence de différentes stratégies d'entraînement sur les SFR apprises et les résultats. Les expériences réalisées sur trois jeux de données publics montrent que notre modèle est comparable aux modèles existants les plus performants, et qu'il peut réduire l'erreur moyenne des coordonnées articulaires 3D de 25% dans l'un d'eux.