Transitionbasierte semantische Abhängigkeitsanalyse mit Pointer-Netzwerken

Transition-basierte Parser, die mit Pointer Networks implementiert wurden, haben sich zum neuen State-of-the-Art in der Abhängigkeitsanalyse entwickelt und zeichnen sich durch die Erzeugung beschrifteter syntaktischer Bäume aus, wobei sie graphbasierte Modelle in dieser Aufgabe übertrifft. Um die Fähigkeiten dieser leistungsfähigen neuronalen Netze an einer anspruchsvolleren NLP-Aufgabe weiter zu testen, schlagen wir ein Transitionssystem vor, das dank Pointer Networks direkt beschriftete gerichtete azyklische Graphen erzeugen und semantische Abhängigkeitsanalyse durchführen kann. Zudem verbessern wir unseren Ansatz durch tief kontextualisierte Wortembeddings, die aus BERT extrahiert wurden. Das resultierende System übertrifft nicht nur alle bestehenden transitionbasierten Modelle, sondern erreicht auch die bisher beste vollständig überwachte Genauigkeit auf den SemEval 2015 Task 18-Datensätzen unter den vorherigen State-of-the-Art graphbasierten Parsern.