18日前
ドキュメントレベルの関係抽出のための参照依存関係モデリング:内部および全体にわたるエンティティ構造
Benfeng Xu, Quan Wang, Yajuan Lyu, Yong Zhu, Zhendong Mao

要約
関係抽出タスクにおける基本的な要素であるエンティティは、特定の構造を示す。本研究では、このような構造を、エンティティの表記ペア間の特徴的な依存関係として定式化する。その後、標準的な自己注意(self-attention)メカニズムおよび全体的な符号化段階に、これらの構造的依存関係を組み込むSSANを提案する。具体的には、各自己注意構成ブロック内に、注意の流れを適応的に正則化するための注意バイアスを生成するための2つの代替変換モジュールを設計した。実験の結果、提案するエンティティ構造の有効性およびSSANの実効性が示された。SSANは、競合するベースラインを大きく上回り、3つの代表的なドキュメントレベル関係抽出データセットにおいて、新たな最先端(SOTA)の性能を達成した。さらに、アブレーション実験および可視化を通じて、エンティティ構造がモデルの関係抽出能力を向上させる仕組みを示した。本研究のコードは公開されている。