HyperAIHyperAI

Command Palette

Search for a command to run...

Informations Saillantes Incitant à Orienter le Contenu dans la Génération de Résumés Abstraits Basée sur des Prompts

Lei Xu Mohammed Asad Karim Saket Dingliwal Aparna Elangovan

Résumé

Les grands modèles de langage (LLMs) peuvent générer des résumés fluides dans divers domaines en utilisant des techniques d'incitation, réduisant ainsi la nécessité de former des modèles spécifiques pour les applications de résumé. Cependant, créer des incitations efficaces qui guident les LLMs à produire des résumés avec le niveau approprié de détail et de style d'écriture reste un défi. Dans cet article, nous explorons l'utilisation d'informations saillantes extraites du document source pour améliorer les incitations de résumé. Nous montrons que l'ajout de termes clés dans les incitations peut améliorer le ROUGE F1 et le rappel, rendant les résumés générés plus similaires aux références et plus complets. Le nombre de termes clés peut contrôler le compromis entre précision et rappel. De plus, notre analyse révèle que l'intégration d'informations saillantes au niveau des phrases est supérieure à celle au niveau des mots ou des phrases. Cependant, l'impact sur les hallucinations n'est pas universellement positif pour tous les LLMs. Pour mener cette analyse, nous introduisons Keyphrase Signal Extractor (SigExt), un modèle léger qui peut être affiné pour extraire des termes clés saillants. En utilisant SigExt, nous obtenons une amélioration constante du ROUGE sur différents jeux de données et sur des LLMs à poids ouverts et propriétaires sans aucune personnalisation du LLM. Nos résultats fournissent des pistes pour exploiter les informations saillantes dans la construction de systèmes de résumé basés sur les incitations. Nous mettons notre code à disposition sur \url{https://github.com/amazon-science/SigExt}.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp