Transformer-Capsule-Modell zur Absichtserkennung

Die Absichtserkennung ist eine der zentralen Aufgaben in natürlichsprachlichen Verarbeitungssystemen (NLU), die in der heutigen Zeit insbesondere für die Entwicklung intelligenter Gespräche von großer Bedeutung sind. Wir stellen einen neuartigen Ansatz zur Absichtserkennung vor, der die Kombination der Transformer-Architektur mit Kapselnetzwerken beinhaltet. Unsere Ergebnisse zeigen, dass diese Architektur gegenüber ursprünglichen Implementierungen von Kapsel-NLU-Netzwerken eine bessere Leistung erbringt und state-of-the-art-Ergebnisse auf Datensätzen wie ATIS, AskUbuntu und WebApp erzielt.