HyperAIHyperAI

Command Palette

Search for a command to run...

Intégration d'embeddings conjoints dans les dialogues orientés vers un objectif avec l'apprentissage multi-tâches

Firas Kassawat Debanjan Chaudhuri Jens Lehmann

Résumé

Les modèles de réseaux neuronaux à encodeur-décodeur basés sur l'attention ont récemment montré des résultats prometteurs dans les systèmes de dialogue orientés vers un objectif. Cependant, ces modèles peinent à raisonner et à intégrer des connaissances avec état tout en conservant leur fonctionnalité de génération de texte de bout en bout. Étant donné que ces modèles peuvent grandement bénéficier de l'intégration des intentions de l'utilisateur et des graphes de connaissances, dans cet article, nous proposons une architecture d'encodeur-décodeur de bout en bout basée sur les RNN (réseaux de neurones récurrents), qui est entraînée avec des plongements conjoints du graphe de connaissances et du corpus comme entrée. Le modèle offre une intégration supplémentaire des intentions de l'utilisateur en plus de la génération de texte, formé selon un paradigme d'apprentissage multitâche accompagné d'une technique régularisatrice supplémentaire pour pénaliser la génération d'entités incorrectes en sortie. Le modèle intègre également une recherche d'entités du graphe de connaissances lors de l'inférence pour garantir que la sortie générée est avec état, basée sur le graphe de connaissances local fourni. Nous avons finalement évalué le modèle en utilisant le score BLEU, et l'évaluation empirique montre que notre architecture proposée peut améliorer les performances des systèmes de dialogue orientés vers une tâche.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp