HyperAIHyperAI

Command Palette

Search for a command to run...

Résumé de documents multiples avec une attention basée sur le processus déterminantal

Mirella Lapata Laura Perez-Beltrachini

Résumé

La capacité à transmettre des informations pertinentes et diversifiées est essentielle dans la synthèse de documents multiples, et demeure toutefois difficile à atteindre pour les modèles neuronaux de type séquence à séquence (seq-to-seq), dont les sorties sont souvent redondantes et échouent à couvrir correctement les détails importants. Dans ce travail, nous proposons un mécanisme d’attention qui encourage une plus grande focalisation sur la pertinence et la diversité. Les poids d’attention sont calculés à partir de probabilités (proportionnelles) fournies par des Processus Point Déterminantaux (DPPs) définis sur l’ensemble des unités de contenu à résumer. Les DPPs ont déjà été utilisés avec succès dans la synthèse extraitive ; ici, nous les exploitons pour sélectionner des contenus pertinents et diversifiés dans le cadre de la synthèse abstraite neuronale. Nous intégrons ce mécanisme d’attention basé sur les DPPs à diverses architectures seq-to-seq, allant des CNNs aux LSTMs et aux Transformers. L’évaluation expérimentale montre que notre mécanisme d’attention améliore de manière cohérente la qualité de la synthèse et atteint des performances comparables aux meilleures méthodes actuelles sur le jeu de données MultiNews.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp
Résumé de documents multiples avec une attention basée sur le processus déterminantal | Articles | HyperAI