Explication multimodale fidèle pour le réponse aux questions visuelles

La capacité des systèmes d'IA à expliquer leur raisonnement est cruciale pour leur utilité et leur fiabilité. Les réseaux neuronaux profonds ont permis des progrès significatifs dans de nombreux problèmes complexes, tels que la réponse aux questions visuelles (VQA). Cependant, la plupart de ces systèmes sont des boîtes noires opaques avec une capacité limitée d'explication. Cet article présente une nouvelle approche pour développer un système VQA performant qui peut clarifier ses réponses par des explications textuelles et visuelles intégrées, reflétant fidèlement les aspects importants de son raisonnement sous-jacent tout en capturant le style des explications humaines compréhensibles. Une évaluation expérimentale exhaustive démontre les avantages de cette approche par rapport aux méthodes concurrentes, tant par des métriques d'évaluation automatique que par des métriques d'évaluation humaine.