HyperAIHyperAI
vor 13 Tagen

Lernen, Implikations- und Diskursrelationen zu memorieren, um persona-konsistente Dialoge zu generieren

Ruijun Chen, Jin Wang, Liang-Chih Yu, Xuejie Zhang
Lernen, Implikations- und Diskursrelationen zu memorieren, um persona-konsistente Dialoge zu generieren
Abstract

Die Aufrechterhaltung von Engagement und Konsistenz ist insbesondere in Dialogsystemen von entscheidender Bedeutung. Bestehende Ansätze haben die Leistung von Dialogsystemen verbessert, indem sie absichtlich die Persönlichkeiten der Gesprächspartner mit komplexen Netzwerkarchitekturen erlernten. Ein Problem dieses Ansatzes liegt darin, dass er größere, annotierte Korpora mit persönlichen Inhalten erfordert. Zudem prognostizieren diese Modelle typischerweise die nächste Äußerung, um eine Antwort zu generieren, und vernachlässigen dabei die Diskurskohärenz im gesamten Gespräch. Um diese Probleme anzugehen, schlägt diese Studie eine Methode vor, die darauf abzielt, Implikations- und Diskursrelationen zu lernen und zu speichern, um Aufgaben im Bereich persona-konsistenter Dialoge zu lösen. Natürlichsprachliche Implikationspaare aus Datensätzen zur natürlichen Sprachinferenz wurden verwendet, um latente Implikationsbeziehungen als externe Erinnerungen durch eine Aufgabe zur Hypothesengenerierung aus Voraussetzungen zu lernen. Darüber hinaus wurde ein internes Gedächtnis mit ähnlicher Architektur für die Diskursinformationen im Dialog eingesetzt. Durch die Anwendung orthogonaler Einschränkungen auf diese beiden Gedächtnisräume wird sichergestellt, dass die latente Implikationsstruktur dialogunabhängig bleibt. Beide Gedächtnisse arbeiten zusammen, um sowohl Implikations- als auch Diskursrepräsentationen für die Generierung zu erzeugen, was eine tiefere Verständnis sowohl der Konsistenz als auch der Kohärenz ermöglicht. Experimente an zwei großen öffentlichen Datensätzen, PersonaChat und DSTC7-AVSD, belegen die Wirksamkeit des vorgeschlagenen Ansatzes. Sowohl automatisierte als auch menschliche Bewertungen zeigen, dass das vorgeschlagene Modell mehrere starke Baselines hinsichtlich der Persönlichkeitskonsistenz und der Antwortkohärenz übertrifft. Der Quellcode ist unter https://github.com/Chenrj233/LMEDR verfügbar.

Lernen, Implikations- und Diskursrelationen zu memorieren, um persona-konsistente Dialoge zu generieren | Neueste Forschungsarbeiten | HyperAI