Formation pour la diversité dans la génération de légendes paragraphe d’images

Les modèles de captioning de paragraphes d’images ont pour objectif de générer des descriptions détaillées à partir d’une image source. Bien qu’ils utilisent des techniques similaires à celles des modèles standards de captioning d’images, ils ont fait face à des problèmes dans la génération de texte, notamment un manque de diversité entre les phrases, ce qui limite leur efficacité. Dans ce travail, nous explorons l’application d’une méthode d’entraînement au niveau de la séquence pour cette tâche. Nous constatons que l’entraînement auto-critique classique donne de mauvais résultats, mais qu’en combinant cette approche avec une pénalité intégrée contre la répétition de trigrammes, on obtient des paragraphes nettement plus diversifiés. Cette méthode d’entraînement simple améliore le meilleur résultat atteint sur le jeu de données Visual Genome pour le captioning de paragraphes, passant de 16,9 à 30,6 en CIDEr, avec des gains également observés sur METEOR et BLEU, sans nécessiter de modification architecturale.