1ヶ月前

深層結合エンティティ曖昧解消と局所ニューラル注意机制

Octavian-Eugen Ganea; Thomas Hofmann
深層結合エンティティ曖昧解消と局所ニューラル注意机制
要約

私たちは、文書レベルのエンティティ曖昧性解消のために、学習されたニューラル表現を活用する新しい深層学習モデルを提案します。このモデルの主要な構成要素は、エンティティ埋め込み(entity embeddings)、局所コンテキストウィンドウ上のニューラル注意機構、および曖昧性解消のための微分可能な共同推論ステージです。当手法は、グラフィカルモデルや確率的なメンション-エンティティマップなどのより伝統的なアプローチと深層学習の利点を組み合わせています。広範な実験により、当手法が中程度の計算コストで競争力のあるまたは最先端の精度を得られることを示しています。