Résumé multicritère spécifique aux couches avec entraînement et génération de questions

Un résumé abstrait précis d'un document doit contenir toutes ses informations essentielles et être logiquement déduit du document d'entrée. Nous améliorons ces aspects importants de la synthèse abstraite grâce à l'apprentissage multi-tâches avec les tâches auxiliaires de génération de questions et de génération d'entraînement, où la première enseigne au modèle de synthèse comment rechercher des détails essentiels dignes d'être questionnés, et la seconde enseigne au modèle comment reformuler un résumé qui est un sous-ensemble logique dirigé du document d'entrée. Nous proposons également de nouvelles architectures multi-tâches avec un partage spécifique aux couches de haut niveau (sémantiques) à travers plusieurs couches encodeur et decodeur des trois tâches, ainsi que des mécanismes de partage doux (et nous présentons des analyses de performance et des exemples pour chaque contribution). Dans l'ensemble, nous obtenons des améliorations statistiquement significatives par rapport à l'état de l'art sur les ensembles de données CNN/DailyMail et Gigaword, ainsi que sur le protocole de transfert DUC-2002. Nous présentons également plusieurs études d'analyse quantitative et qualitative des compétences en salience et entraînement apprises par notre modèle.