HyperAIHyperAI
vor 16 Tagen

Eine differenzierbare Relaxierung der Graphen-Segmentation und -Ausrichtung für die AMR-Parsing

Chunchuan Lyu, Shay B. Cohen, Ivan Titov
Eine differenzierbare Relaxierung der Graphen-Segmentation und -Ausrichtung für die AMR-Parsing
Abstract

Abstrakte Bedeutungsrepräsentationen (Abstract Meaning Representations, AMR) sind ein umfassender semantischer Formalismus, der die Bedeutung von Sätzen als gerichteter azyklischer Graphen darstellt. Um die meisten AMR-Parsen zu trainieren, muss der Graph in Teilgraphen segmentiert und jeder solche Teilgraph einem Wort im Satz zugeordnet werden; dies geschieht normalerweise in einer Vorverarbeitung auf Basis von handgefertigten Regeln. Im Gegensatz dazu behandeln wir sowohl die Zuordnung als auch die Segmentierung als latente Variablen in unserem Modell und leiten sie als Teil des end-to-end-Trainings ab.Da die Marginalisierung über die strukturierten latenten Variablen nicht durchführbar ist, nutzen wir den Rahmenwerk des variationalen Autoencoders. Um eine end-to-end-differenzierbare Optimierung zu gewährleisten, führen wir eine differenzierbare Relaxierung des Segmentierungs- und Zuordnungsproblems ein. Wir beobachten, dass die induzierte Segmentierung erhebliche Verbesserungen gegenüber einer „greedy“-Segmentierungsheuristik erbringt. Die Leistung unseres Verfahrens nähert sich zudem der eines Modells an, das auf den Segmentierungsregeln von \citet{lyu-titov-2018-amr} basiert, welche gezielt für die Behandlung einzelner AMR-Konstruktionen handgefertigt wurden.

Eine differenzierbare Relaxierung der Graphen-Segmentation und -Ausrichtung für die AMR-Parsing | Neueste Forschungsarbeiten | HyperAI