WildQA : Réponse à des questions sur des vidéos dans leur environnement naturel

Les jeux de données existants pour la compréhension vidéo se concentrent principalement sur les interactions humaines, en accordant peu d’attention aux scénarios « en situation réelle » où les vidéos sont enregistrées en extérieur. Nous proposons WILDQA, un jeu de données de compréhension vidéo constitué d’enregistrements réalisés en milieu extérieur. En plus de la tâche classique de réponse aux questions sur vidéo (Video QA), nous introduisons une nouvelle tâche : la sélection des preuves visuelles pertinentes pour une question et une réponse données (Video Evidence Selection). À travers des évaluations menées sur une large gamme de modèles de référence, nous démontrons que WILDQA pose de nouveaux défis aux communautés de recherche en vision et en langage. Le jeu de données est disponible à l’adresse suivante : https://lit.eecs.umich.edu/wildqa/.