11日前

再帰的ニューラルネットワークとTransformerモデルを用いたディスコース表現構造解析

{Mirella Lapata, Jiangming Liu, Shay B. Cohen}
再帰的ニューラルネットワークとTransformerモデルを用いたディスコース表現構造解析
要約

IWCS-2019におけるDRS解析共有タスクの一環として、我々が開発した discourse representation structure(DRS)解析システムについて述べる。本システムは、シーケンス・トゥ・シーケンスモデルに基づいている。モデルの実装には、PyTorchで実装されたオープンソースのニューラル機械翻訳システムであるOpenNMT-pyを用いた。本研究では、再帰型ニューラルネットワーク(RNN)に基づくエンコーダ・デコーダモデルおよびTransformerモデルを用いたさまざまなモデル構成について検証を行った。実験は、Parallel Meaning Bank(PMB 2.2)の標準ベンチマークデータセットを用いて実施した。最良のシステムは、DRS解析共有タスクにおいて84.8%のF1スコアを達成した。

再帰的ニューラルネットワークとTransformerモデルを用いたディスコース表現構造解析 | 最新論文 | HyperAI超神経