HyperAIHyperAI

Command Palette

Search for a command to run...

il y a 4 mois

Résumé de documents multiples avec une attention basée sur le processus déterminantal

{Mirella Lapata Laura Perez-Beltrachini}

Résumé

La capacité à transmettre des informations pertinentes et diversifiées est essentielle dans la synthèse de documents multiples, et demeure toutefois difficile à atteindre pour les modèles neuronaux de type séquence à séquence (seq-to-seq), dont les sorties sont souvent redondantes et échouent à couvrir correctement les détails importants. Dans ce travail, nous proposons un mécanisme d’attention qui encourage une plus grande focalisation sur la pertinence et la diversité. Les poids d’attention sont calculés à partir de probabilités (proportionnelles) fournies par des Processus Point Déterminantaux (DPPs) définis sur l’ensemble des unités de contenu à résumer. Les DPPs ont déjà été utilisés avec succès dans la synthèse extraitive ; ici, nous les exploitons pour sélectionner des contenus pertinents et diversifiés dans le cadre de la synthèse abstraite neuronale. Nous intégrons ce mécanisme d’attention basé sur les DPPs à diverses architectures seq-to-seq, allant des CNNs aux LSTMs et aux Transformers. L’évaluation expérimentale montre que notre mécanisme d’attention améliore de manière cohérente la qualité de la synthèse et atteint des performances comparables aux meilleures méthodes actuelles sur le jeu de données MultiNews.

Benchmarks

BenchmarkMéthodologieMétriques
multi-document-summarization-on-multi-newsCTF+DPP
ROUGE-1: 45.84
ROUGE-2: 15.94
ROUGE-SU4: 19.19

Construire l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec du co-codage IA gratuit, un environnement prêt à l'emploi et les meilleurs prix GPU.

Co-codage IA
GPU prêts à utiliser
Meilleurs prix
Commencer

Hyper Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp
Résumé de documents multiples avec une attention basée sur le processus déterminantal | Articles de recherche | HyperAI