HyperAIHyperAI
il y a 17 jours

Transformateur Encoder Sensible aux Émotions pour la Génération de Dialogues Empathiques

Raman Goel, Seba Susan, Sachin Vashisht, Armaan Dhanda
Transformateur Encoder Sensible aux Émotions pour la Génération de Dialogues Empathiques
Résumé

Les agents conversationnels modernes sont entraînés pour imiter le mode de communication humain. Afin de tisser un lien émotionnel avec l'utilisateur, ces agents virtuels doivent être capables de percevoir l'état affectif de l'utilisateur. Les Transformers constituent l'état de l'art récent dans l'apprentissage séquentiel, reposant sur l'entraînement d'un modèle encodeur-décodeur utilisant des embeddings de mots issus de paires énoncé-réponse. Nous proposons un encodeur Transformer sensible à l'émotion, conçu pour capturer le quotient émotionnel contenu dans l'énoncé de l'utilisateur, afin de générer des réponses empathiques proches de celles des humains. Les contributions principales de notre travail sont les suivantes : 1) un module détecteur d'émotions, entraîné sur les énoncés d'entrée, détermine l'état affectif de l'utilisateur en phase initiale ; 2) un nouvel encodeur Transformer est proposé, qui ajoute et normalise l'embedding sémantique du mot avec l'embedding émotionnel, intégrant ainsi de manière cohérente les aspects sémantiques et affectifs de l'énoncé d'entrée ; 3) les piles d'encodeur et de décodeur appartiennent à l'architecture Transformer-XL, qui représente actuellement l'état de l'art en modélisation du langage. Des expérimentations sur le jeu de données standard Facebook AI Empathetic Dialogue confirment l'efficacité de notre modèle, mesurée par des scores BLEU-4 supérieurs aux méthodes existantes pour les réponses générées. Des agents virtuels dotés d'intelligence émotionnelle deviennent désormais une réalité, et l'intégration de l'émotion comme modalité fondamentale dans toutes les interfaces homme-machine est envisagée pour les proches années.