2ヶ月前

エンドツーエンドのニューラルコアファレンス解像

Kenton Lee; Luheng He; Mike Lewis; Luke Zettlemoyer
エンドツーエンドのニューラルコアファレンス解像
要約

私たちは最初のエンドツーエンドの共参照解消モデルを紹介し、このモデルが構文解析器や手動で設計された言及検出器を使用せずに、これまでのすべての研究を大幅に上回ることを示します。本モデルの基本的な考え方は、文書内のすべての区間を潜在的な言及として直接考慮し、それぞれに対して可能な先行詞の分布を学習することです。モデルは、コンテキスト依存境界表現とヘッド探索注意機構を組み合わせた区間埋め込みを計算します。本モデルは、共参照クラスタからゴールド先行詞区間の周辺尤度を最大化するように訓練され、潜在的な言及の積極的な剪定を可能にするように因子分解されています。実験結果は最先端の性能を示しており、OntoNotesベンチマークでは1.5 F1スコアの向上が見られ、5つのモデルアンサンブルを使用した場合でも3.1 F1スコアの向上が確認されました。これは外部リソースなしで成功裏に訓練された初めてのアプローチであるにもかかわらずです。