Génération de paragraphes divers et cohérents à partir d'images

La génération de paragraphes à partir d'images, qui a récemment connu un regain de popularité, est une tâche importante pour le résumé vidéo, l'édition et le soutien aux personnes handicapées. Les méthodes traditionnelles de légendage d'images sont insuffisantes dans ce domaine, car elles ne sont pas conçues pour produire des descriptions longues et informatives. De plus, l'approche basique consistant simplement à concaténer plusieurs phrases courtes, potentiellement synthétisées par un système classique de légendage d'images, ne prend pas en compte les complexités inhérentes aux paragraphes : cohérence des phrases, structure globalement cohérente et diversité. Pour relever ces défis, nous proposons d'améliorer les techniques de génération de paragraphes en y intégrant des « vecteurs de cohérence », des « vecteurs de sujet global » et en modélisant l'ambiguïté inhérente à l'association de paragraphes avec des images, au moyen d'une formulation d'auto-encodeur variationnel. Nous démontrons l'efficacité de notre approche sur deux jeux de données, surpassant les techniques existantes les plus avancées dans les deux cas.