Command Palette
Search for a command to run...
Ein einfaches Sprachmodell für taskorientierte Dialoge
Ein einfaches Sprachmodell für taskorientierte Dialoge
Ehsan Hosseini-Asl; Bryan McCann; Chien-Sheng Wu; Semih Yavuz; Richard Socher
Zusammenfassung
Aufgabenorientierte Dialoge werden häufig in drei Aufgaben zerlegt: das Verstehen der Benutzereingabe, die Entscheidung über Aktionen und die Generierung einer Antwort. Obwohl eine solche Zerlegung auf dedizierte Modelle für jede Teil-Aufgabe hindeuten könnte, stellen wir fest, dass ein einfacher, vereinter Ansatz zu einem Stand-der-Technik-Ergebnis im MultiWOZ-Datensatz führt. SimpleTOD ist ein einfacher Ansatz für aufgabenorientierte Dialoge, der ein einzelnes kausales Sprachmodell verwendet, das auf allen Teil-Aufgaben als ein sequenzielles Vorhersageproblem trainiert wird. Dies ermöglicht es SimpleTOD, den Transfer-Learning von vortrainierten, offenen Domänen, kausalen Sprachmodellen wie GPT-2 vollständig zu nutzen. SimpleTOD verbessert die bisherige Stand-der-Technik-Leistung in der gemeinsamen Zielgenauigkeit für die Dialogzustandsschätzung und unsere Analyse zeigt Robustheit gegenüber verrauschten Annotationen in diesem Szenario. SimpleTOD verbessert auch die wichtigsten Metriken zur Bewertung von Aktionen und Antwortgenerierung in einem End-to-End-Szenario: den Informationsrate um 8,1 Punkte, den Erfolgsrate um 9,7 Punkte und den kombinierten Score um 7,2 Punkte.