HyperAIHyperAI

Command Palette

Search for a command to run...

Modèle d'attention guidé par la diversité pour la génération de résumés abstraits basés sur des requêtes

Preksha Nema Mitesh M. Khapra Anirban Laha Balaraman Ravindran

Résumé

La synthèse abstraite vise à générer une version plus courte du document, couvrant tous les points essentiels de manière concise et cohérente. En revanche, la synthèse basée sur une requête met en évidence les points pertinents dans le contexte d'une requête donnée. Le paradigme encode-attend-decode a connu un succès notable dans des domaines tels que la traduction automatique, la synthèse extractive et les systèmes de dialogue. Cependant, il souffre du défaut de génération de phrases répétitives. Dans cette étude, nous proposons un modèle pour la tâche de synthèse basée sur une requête, s'appuyant sur le paradigme encode-attend-decode avec deux ajouts clés : (i) un modèle d'attention à la requête (en complément du modèle d'attention au document), qui apprend à se concentrer sur différentes parties de la requête à différents moments (au lieu d'utiliser une représentation statique de la requête) et (ii) un nouveau modèle d'attention basé sur la diversité visant à atténuer le problème des phrases répétitives dans le résumé. Pour permettre l'évaluation de ce modèle, nous introduisons un nouveau jeu de données pour la synthèse basée sur une requête, construit à partir de Debatepedia. Nos expériences montrent que ces deux ajouts permettent au modèle proposé de surpasser nettement les modèles encode-attend-decode standards, avec une amélioration de 28 % (en valeur absolue) des scores ROUGE-L.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp