Sequenzalignment-Ensemble mit einem einzigen neuronalen Netzwerk für Sequenzmarkierung

Die Sequenzmarkierung, bei der jedem Token einer gegebenen Eingabefolge eine Klasse oder ein Label zugeordnet wird, ist eine grundlegende Aufgabe im Bereich der natürlichen Sprachverarbeitung. In jüngster Zeit wurden zahlreiche fortschrittliche neuronale Netzarchitekturen vorgeschlagen, um das Problem der sequenziellen Markierung zu lösen. Im Gegensatz dazu wurden bisher nur wenige Ansätze zur Behandlung des Problems der sequenziellen Ensembles vorgeschlagen. In diesem Paper lösen wir das Problem der sequenziellen Ensembles durch die Anwendung der sequenziellen Ausrichtungsmethode in einem vorgeschlagenen Ensemblesystem. Genauer gesagt, präsentieren wir einen einfachen, aber effizienten Rahmen für die Generierung von Ensembles-Kandidaten, mit dem mehrere heterogene Systeme problemlos aus einem einzigen neuronalen Sequenzmarkierungsnetzwerk erstellt werden können. Zur Evaluierung des vorgeschlagenen Ansatzes wurden Experimente mit Aufgaben der Part-of-Speech-(POS-)Tagging und der Abhängigkeitslabel-Vorhersage durchgeführt. Die Ergebnisse zeigen, dass der vorgeschlagene Rahmen eine um 0,19 bzw. 0,33 höhere Genauigkeit erreichte als die Methode des Hard-Voting auf den Datensätzen Penn-Treebank für POS-Tagging und Universal Dependency-Tagging.