Vorab trainierte und aufmerksamkeitsbasierte neuronale Netze für die Erstellung noetischer taskorientierter Dialogsysteme

Die NOESIS II Challenge, als Track 2 der 8. Dialogue System Technology Challenges (DSTC 8), ist die Weiterentwicklung der DSTC 7. Dieser Track integriert neue Elemente, die für die Erstellung eines eingesetzten taskorientierten Dialogsystems von entscheidender Bedeutung sind. In diesem Artikel beschreiben wir unsere Systeme, die in allen Teilchallenges evaluiert wurden. Wir untersuchen das Problem der Verwendung von vortrainierten aufmerksamkeitsbasierten Netzwerken für Multi-Turn-Dialogsysteme. Gleichzeitig werden mehrere Anpassungsmethoden vorgeschlagen, um die vortrainierten Sprachmodelle für Multi-Turn-Dialogsysteme anzupassen, wodurch die intrinsischen Eigenschaften der Dialogsysteme gewahrt bleiben. In den veröffentlichten Bewertungsergebnissen des Tracks 2 der DSTC 8 belegten unsere vorgeschlagenen Modelle im Teilbereich 1 den vierten Platz, im Teilbereich 2 den dritten Platz und jeweils den ersten Platz in den Teilbereichen 3 und 4.