HyperAIHyperAI
vor 17 Tagen

Emotion-aware Transformer Encoder für die empathische Dialoggenerierung

Raman Goel, Seba Susan, Sachin Vashisht, Armaan Dhanda
Emotion-aware Transformer Encoder für die empathische Dialoggenerierung
Abstract

Moderne conversationelle Agenten werden darauf trainiert, die Art und Weise menschlicher Kommunikation nachzuahmen. Um eine emotionale Bindung zum Nutzer aufzubauen, müssen diese virtuellen Agenten in der Lage sein, den affektiven Zustand des Nutzers zu erkennen. Transformers stellen den aktuellen Stand der Technik im Bereich der Sequenz-zu-Sequenz-Lernverfahren dar, bei denen ein Encoder-Decoder-Modell mit Wort-Embeddings aus Sprechakt-Antwort-Paaren trainiert wird. In diesem Beitrag schlagen wir einen emozionsbewussten Transformer-Encoder vor, der die emotionale Intelligenz im Nutzereingabewort erfasst, um menschenähnliche, empathische Antworten zu generieren. Die Beiträge unserer Arbeit sind wie folgt: 1) Ein Emotionsdetektor-Modul, das auf den Eingabesätzen trainiert wurde, bestimmt im ersten Schritt den affektiven Zustand des Nutzers; 2) Es wird ein neuer Transformer-Encoder vorgeschlagen, der die Wort-Embeddings mit Emotions-Embeddings addiert und normalisiert, wodurch semantische und affektive Aspekte der Eingabesätze integriert werden; 3) Die Encoder- und Decoder-Stacks basieren auf der Transformer-XL-Architektur, die derzeit den Stand der Technik im Bereich der Sprachmodellierung darstellt. Experimente am Benchmark-Datensatz „Facebook AI Empathetic Dialogue“ bestätigen die Wirksamkeit unseres Modells anhand der höheren BLEU-4-Scores der generierten Antworten im Vergleich zu bestehenden Methoden. Emotionale Intelligenz in virtuellen Agenten ist nun Realität, und die Einbeziehung von Affekt als Modalität in allen menschlich-machine-Interaktionen wird in naher Zukunft erwartet.