Détection d'Actions à Grains Fins avec des Informations RGB et de Pose en Utilisant des Réseaux de Neurones Convolutifs à Deux Flux

En tant que participants de la tâche sportive de MediaEval 2022, nous proposons une approche à deux flux pour la classification et la détection des coups de tennis de table. Chaque flux est une succession de blocs de Réseaux Neuronaux Convolutifs 3D (CNN) utilisant des mécanismes d'attention. Chaque flux traite des entrées 4D différentes. Notre méthode utilise des données brutes RGB et des informations de posture calculées à partir de l'outil MMPose. Les informations de posture sont traitées comme une image en appliquant la posture soit sur un fond noir, soit sur le cadre RGB original à partir duquel elle a été calculée. Les meilleures performances sont obtenues en alimentant un flux avec des données brutes RGB, l'autre flux avec les informations PRGB (Pose + RGB) et en appliquant une fusion tardive sur les caractéristiques. Les approches ont été évaluées sur les ensembles de données TTStroke-21 fournis. Nous pouvons rapporter une amélioration dans la classification des coups, atteignant une précision de 87,3%, tandis que la détection ne surpasse pas la ligne de base mais atteint néanmoins un IoU de 0,349 et un mAP de 0,110.