il y a 2 mois
Modélisation déterministe de séquences neuronales non auto-régressive par raffinement itératif
Jason Lee; Elman Mansimov; Kyunghyun Cho

Résumé
Nous proposons un modèle neuronal de séquence conditionnel non auto-régressif basé sur l'amélioration itérative. Le modèle proposé est conçu en s'appuyant sur les principes des modèles à variables latentes et des autoencodeurs débruiteurs, et il est généralement applicable à toute tâche de génération de séquences. Nous évaluons de manière approfondie le modèle proposé pour la traduction automatique (En-De et En-Ro) et la génération de légendes d'images, et nous constatons qu'il accélère considérablement le décodage tout en maintenant une qualité de génération comparable à celle du modèle auto-régressif correspondant.