Réseau de neurones convolutif récurrent pour l’estimation du regard 3D utilisant des indices d’apparence et de forme

Le comportement oculaire est une indication non verbale importante dans le traitement des signaux sociaux et l'interaction homme-machine. Dans cet article, nous abordons le problème de l'estimation du regard en 3D indépendante de la personne et de la posture de la tête à partir de caméras distantes, en utilisant un réseau neuronal convolutif récurrent multi-modale (CNN). Nous proposons de combiner le visage, la région des yeux et les points d'intérêt faciaux comme flux individuels dans un CNN pour estimer le regard sur des images fixes. Ensuite, nous exploitons la nature dynamique du regard en alimentant les caractéristiques apprises de tous les cadres d'une séquence dans un module récurrent many-to-one qui prédit le vecteur de regard 3D du dernier cadre. Notre solution statique multi-modale est évaluée sur une large gamme de postures de tête et de directions de regard, réalisant une amélioration significative de 14,6 % par rapport à l'état de l'art sur l'ensemble de données EYEDIAP, avec une amélioration supplémentaire de 4 % lorsque la modalité temporelle est incluse.