11日前

ポインタネットワークを用いたトランジションベースの意味的依存構文解析

{Carlos G{\'o}mez-Rodr{\'\i}guez, Daniel Fern{\'a}ndez-Gonz{\'a}lez}
ポインタネットワークを用いたトランジションベースの意味的依存構文解析
要約

ポインタネットワーク(Pointer Networks)を用いて実装された遷移ベースのパーサーは、ラベル付き構文木の生成において優れた性能を発揮し、このタスクにおいてグラフベースのモデルを上回る新たな最先端技術として定着している。この強力なニューラルネットワークの能力を、より困難な自然言語処理問題に対してさらに検証するため、本研究ではポインタネットワークの利点を活かした遷移システムを提案する。このシステムは、ラベル付き有向非巡回グラフ(labelled directed acyclic graphs)を直感的かつ直接的に生成でき、意味論的依存構文解析も実行可能である。さらに、BERTから抽出された深層文脈依存型単語埋め込み(deep contextualized word embeddings)を導入することで、モデルの性能を向上させた。その結果、本手法は既存のすべての遷移ベースモデルを上回る性能を達成するとともに、SemEval 2015 タスク18データセットにおいて、従来の最先端グラフベースパーサーの中で最高の完全教師あり精度を達成した。

ポインタネットワークを用いたトランジションベースの意味的依存構文解析 | 最新論文 | HyperAI超神経