il y a 2 mois
Couper les générations redondantes répétitives pour la synthèse abstraite neuronale
Jun Suzuki; Masaaki Nagata

Résumé
Ce travail aborde la réduction de la génération redondante et répétitive, phénomène souvent observé dans les modèles encodeur-décodeur basés sur les RNN (Réseaux de Neurones Récurrents). Notre idée de base consiste à estimer conjointement la fréquence maximale de chaque mot du vocabulaire cible dans l'encodeur et à contrôler les mots de sortie en fonction de cette estimation dans le décodeur. Notre méthode montre une amélioration significative par rapport à une ligne de base solide basée sur les RNN et a obtenu ses meilleurs résultats sur un banc d'essai d'agrégation abstraite.