2ヶ月前
複数仮説を用いた文法誤り訂正のためのニューラル品質推定
Zhenghao Liu; Xiaoyuan Yi; Maosong Sun; Liner Yang; Tat-Seng Chua

要約
文法誤り訂正(GEC)は、書く際の誤りを訂正し、言語学習者が書き方のスキルを向上させるために目指されています。しかし、既存のGECモデルは偽の訂正を生成したり、多くの誤りを見逃す傾向があります。GECの品質を保証し、不適切に訂正された文章から学習者が誤った情報を得ることを防ぐためには、品質推定モデルが必要です。十分に訓練されたGECモデルは、ビームサーチなどのデコーディング手法を通じて複数の高品質な仮説を生成することができます。これらの仮説は貴重なGEC証拠を提供し、GECの品質評価に利用できます。しかし、既存のモデルは異なる仮説からの可能性のあるGEC証拠を見落としています。本論文では、複数の仮説を使用したGEC品質推定のためにニューラル検証ネットワーク(VERNet)を提案します。VERNetは推論グラフを利用して仮説間での相互作用を確立し、2種類の注意メカニズムによってGEC証拠を伝播させて生成された仮説の品質を検証します。我々が4つのGECデータセットで行った実験では、VERNetが最先端の文法誤り検出性能を達成し、最高の品質推定結果を得ており、さらに仮説の再順位付けによりGEC性能が大幅に向上することが示されました。すべてのデータとソースコードはhttps://github.com/thunlp/VERNet で公開されています。