HyperAIHyperAI
il y a 2 mois

Modélisation déterministe de séquences neuronales non auto-régressive par raffinement itératif

Jason Lee; Elman Mansimov; Kyunghyun Cho
Modélisation déterministe de séquences neuronales non auto-régressive par raffinement itératif
Résumé

Nous proposons un modèle neuronal de séquence conditionnel non auto-régressif basé sur l'amélioration itérative. Le modèle proposé est conçu en s'appuyant sur les principes des modèles à variables latentes et des autoencodeurs débruiteurs, et il est généralement applicable à toute tâche de génération de séquences. Nous évaluons de manière approfondie le modèle proposé pour la traduction automatique (En-De et En-Ro) et la génération de légendes d'images, et nous constatons qu'il accélère considérablement le décodage tout en maintenant une qualité de génération comparable à celle du modèle auto-régressif correspondant.

Modélisation déterministe de séquences neuronales non auto-régressive par raffinement itératif | Articles de recherche récents | HyperAI