{Tie-Yan Liu ChengXiang Zhai Fei Tian Yiren Wang Tianyu He Tao Qin Yingce Xia}

Résumé

L’apprentissage dual a suscité un grand intérêt au sein des communautés du machine learning, de la vision par ordinateur et du traitement du langage naturel. L'idée centrale de l'apprentissage dual repose sur l'exploitation de la dualité entre une tâche primaire (mapping du domaine X vers le domaine Y) et sa tâche duale (mapping du domaine Y vers X) afin d'améliorer les performances des deux tâches simultanément. Les cadres d'apprentissage dual existants mettent en œuvre un système composé de deux agents (un modèle primaire et un modèle dual) afin d'exploiter cette dualité. Dans cet article, nous étendons ce cadre en introduisant plusieurs modèles primaires et duals, et proposons un nouveau cadre d'apprentissage dual à plusieurs agents. Des expériences menées sur des tâches de traduction automatique de phrases et de traduction d'images démontrent l'efficacité de ce nouveau cadre. En particulier, nous établissons un nouveau record sur le benchmark IWSLT 2014 (traduction allemand-anglais) avec un score BLEU de 35,44, atteignons un score de 31,03 sur le benchmark WMT 2014 (anglais-allemand), soit une amélioration de plus de 2,6 points par rapport à la base Transformer performante, et établissons un nouveau record de 49,61 BLEU sur le récent benchmark WMT 2018 (anglais-allemand).