HyperAIHyperAI
vor 2 Monaten

Sequential Matching Network: Eine neue Architektur für die Mehrfachantwortselektion in chatbasierten Retrieval-Systemen

Yu Wu; Wei Wu; Chen Xing; Ming Zhou; Zhoujun Li
Sequential Matching Network: Eine neue Architektur für die Mehrfachantwortselektion in chatbasierten Retrieval-Systemen
Abstract

Wir untersuchen die Antwortauswahl für mehrfache Konversationszyklen in Retrieval-basierten Chatbots. Bestehende Ansätze entweder verketten die Äußerungen im Kontext oder passen eine Antwort an einen stark abstrakten Kontextvektor an, was möglicherweise Beziehungen zwischen den Äußerungen oder wichtige kontextuelle Informationen verliert. Wir schlagen ein sequentielles Matching-Netzwerk (SMN) vor, um beide Probleme zu lösen. Das SMN passt zunächst eine Antwort auf jeder Ebene der Granularität mit jeder Äußerung im Kontext an und destilliert wichtige Matchinginformationen aus jedem Paar als Vektor durch Faltung und Pooling-Operationen. Die Vektoren werden dann in chronologischer Reihenfolge durch ein rekurrentes Neuronales Netzwerk (RNN) akkumuliert, das Beziehungen zwischen den Äußerungen modelliert. Die endgültige Matchingpunktzahl wird mit den verborgenen Zuständen des RNN berechnet. Eine empirische Studie anhand zweier öffentlicher Datensätze zeigt, dass das SMN erheblich bessere Ergebnisse als die bislang besten Methoden zur Antwortauswahl in mehrfachen Konversationszyklen erzielen kann.