Kombination von Wissen aus zwei Lehrern für dialogbasierte Systeme mit Aufgabenorientierung unter Verwendung von adversarialer Trainingstechnik

Die Herausforderung, sowohl die Aufgabenabwicklung durch Abfrage einer Wissensbasis als auch die Generierung menschenähnlicher Antworten in aufgabenorientierten Dialogsystemen zu erreichen, zieht zunehmend Forschungsaufmerksamkeit auf sich. In diesem Artikel stellen wir einen {``}Two-Teacher One-Student{''}-Lernrahmen (TTOS) für aufgabenorientierte Dialoge vor, dessen Ziel darin besteht, gleichzeitig genaue KB-Entitäten abzurufen und menschenähnliche Antworten zu generieren. TTOS integriert Wissen aus zwei Lehrernetzwerken, die gemeinsam umfassende Anleitungen bereitstellen, um ein hochwertiges aufgabenorientiertes Dialogsystem (Schülernetzwerk) zu konstruieren. Jedes Lehrernetzwerk wird mittels Verstärkungslernen mit einem zielorientierten Belohnungssignal trainiert, das als Experte für das jeweilige Ziel betrachtet werden kann und dabei spezifische Fachkenntnisse auf das Schülernetzwerk überträgt. Im Gegensatz zur klassischen Lehrer-Schüler-Lernmethode, bei der der Ausgabevorgang des Schülernetzwerks gezwungen wird, exakt die weichen Ziele der Lehrernetzwerke nachzuahmen, führen wir zwei Diskriminatoren ein, wie sie in generativen adversarialen Netzwerken (GANs) verwendet werden, um Wissen von den beiden Lehrern auf das Schülernetzwerk zu übertragen. Die Verwendung von Diskriminatoren löst die starre Kopplung zwischen Schüler und Lehrern auf. Umfangreiche Experimente auf zwei Benchmark-Datensätzen (nämlich CamRest und In-Car Assistant) zeigen, dass TTOS signifikant gegenüber Basismethoden abschneidet.