2ヶ月前

パラフレーズ識別、意味的テキスト類似性、自然言語推論、および質問応答のためのニューラルネットワークモデル

Wuwei Lan; Wei Xu
パラフレーズ識別、意味的テキスト類似性、自然言語推論、および質問応答のためのニューラルネットワークモデル
要約

本論文では、文ペアモデリングのための複数のニューラルネットワーク設計(およびその変種)を分析し、パラフレーズ識別、意味的テキスト類似性、自然言語推論、質問応答タスクを含む8つのデータセットでそれらの性能を広範に比較します。これらのモデルの多くは最先端の性能を達成していると主張していますが、元の論文ではしばしば1つか2つの選択されたデータセットでのみ結果が報告されていました。私たちは体系的な研究を行い、(i) LSTMによる文脈情報のエンコーディングと文間相互作用が重要である、(ii) Tree-LSTMは以前に主張されていたほど効果的ではないが、Twitterデータセットでは意外にも性能向上に寄与する、(iii) 大規模なデータセットに対してはEnhanced Sequential Inference Model(強化された逐次推論モデル)が最も優れている一方で、データ量が少ない場合においてはPairwise Word Interaction Model(単語対相互作用モデル)が最高の性能を示すことを示しました。私たちはこれらの実装をオープンソースツールキットとして公開します。