11日前

ニューラルディスコースパーサーの力を解き放つ ― 大規模事前学習を用いた文脈および構造に配慮したアプローチ

Grigorii Guz, Patrick Huber, Giuseppe Carenini
ニューラルディスコースパーサーの力を解き放つ ― 大規模事前学習を用いた文脈および構造に配慮したアプローチ
要約

RSTに基づくディスコース解析は、要約、機械翻訳、意見抽出など多数の下流タスクに応用可能な重要な自然言語処理(NLP)タスクである。本論文では、近年の文脈依存型言語モデルを統合した、シンプルでありながら極めて高い精度を達成するディスコース解析器を提示する。この解析器は、RST-DTおよびInstr-DTという2つの主要なRSTデータセットにおいて、構造および核性(nuclearity)の予測という点で、新たな最先端(SOTA)性能を確立した。さらに、最近公開された大規模な「シルバー標準」ディスコースツリー銀行であるMEGA-DTで事前学習を行うことで、さらなる性能向上が得られることを示した。これは、ディスコース解析分野における新しいかつ有望な研究方向性を示唆している。

ニューラルディスコースパーサーの力を解き放つ ― 大規模事前学習を用いた文脈および構造に配慮したアプローチ | 最新論文 | HyperAI超神経