HyperAIHyperAI

Command Palette

Search for a command to run...

Que la Force soit avec votre mécanisme de copie : méthode supervisée améliorée par copie pour la génération de langage naturel

Sanghyuk Choi Jeong-in Hwang Hyungjong Noh Yeonsoo Lee

Résumé

Les modèles récents de séquence à séquence basés sur les réseaux neuronaux et intégrant un mécanisme de copie ont connu des progrès remarquables dans diverses tâches de génération de texte. Ces modèles ont permis de résoudre les problèmes liés aux mots hors vocabulaire et ont facilité la génération de mots rares. Toutefois, l’identification du mot à copier demeure difficile, comme l’ont observé les modèles précédents, qui souffrent de générations incorrectes et d’un manque d’abstraction. Dans cet article, nous proposons une nouvelle approche supervisée pour les réseaux de copie, permettant au modèle de déterminer de manière plus précise quels mots doivent être copiés et quels mots doivent être générés. Plus précisément, nous reformulons la fonction objectif en exploitant les séquences sources et les vocabulaires cibles comme guide pour la copie. Les résultats expérimentaux sur les tâches de génération de texte à partir de données et de résumé abstrait confirment que notre approche améliore la qualité de la copie tout en augmentant le degré d’abstraction du texte généré.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp