HyperAIHyperAI
vor 2 Monaten

Supertagging der kombinatorischen Kategorialgrammatik mit aufmerksamen Graphenkonvolutionss Netzwerken

Yuanhe Tian; Yan Song; Fei Xia
Supertagging der kombinatorischen Kategorialgrammatik mit aufmerksamen Graphenkonvolutionss Netzwerken
Abstract

Supertagging wird traditionell als eine wichtige Aufgabe für die kombinatorische kategorialen Grammatik (CCG) Parsing angesehen, bei der die effektive Modellierung von kontextuellen Informationen von entscheidender Bedeutung ist. bisherige Studien haben jedoch mit Ausnahme der Anwendung leistungsfähiger Encoder (z.B. bi-LSTM) begrenzte Bemühungen unternommen, um kontextuelle Merkmale zu nutzen. In dieser Arbeit schlagen wir aufmerksame Graph-Konvolutionalnetze vor, um durch eine neuartige Lösung zur Nutzung von Kontextinformationen das neuronale CCG-Supertagging zu verbessern. Insbesondere bauen wir den Graphen aus Chunk-Einheiten (n-Gramme), die aus einem Lexikon extrahiert werden, und wenden Aufmerksamkeit über den Graphen an, sodass verschiedene Wortpaare sowohl innerhalb als auch zwischen den Chunks im Modell gewichtet werden und das Supertagging entsprechend unterstützt. Die Experimente am CCGbank zeigen, dass unser Ansatz sowohl in Bezug auf das Supertagging als auch auf das Parsing alle früheren Studien übertrifft. Weitere Analysen verdeutlichen die Effektivität jeder Komponente unseres Ansatzes, um diskriminativ aus Wortpaaren zu lernen und das CCG-Supertagging zu verbessern.

Supertagging der kombinatorischen Kategorialgrammatik mit aufmerksamen Graphenkonvolutionss Netzwerken | Neueste Forschungsarbeiten | HyperAI