HyperAIHyperAI

Command Palette

Search for a command to run...

文書レベルの関係抽出のための密接接続クロスクロスアテンションネットワーク

Liang Zhang Yidong Cheng

概要

ドキュメントレベルの関係抽出(Document-level Relation Extraction: RE)は、与えられたドキュメント内における2つのエンティティ間の関係を特定することを目的としている。文レベルの関係抽出と比較して、ドキュメントレベルのREはより複雑な推論を要する。従来の研究では、主にエンティティの出現(mention)レベルまたはエンティティレベルのドキュメントグラフ上で情報伝搬を用いて推論を実現していたが、エンティティペアレベルでの推論にはほとんど注目が向けられてこなかった。本論文では、エンティティペアレベルでの論理的推論を実現可能な新たなモデル、すなわち「密結合クロスアテンションネットワーク(Densely Connected Criss-Cross Attention Network: Dense-CCNet)」を提案する。具体的には、Dense-CCNetはクロスアテンション(Criss-Cross Attention: CCA)を用いてエンティティペア行列上で水平方向および垂直方向の文脈情報を収集し、対応するエンティティペア表現を強化することで、エンティティペアレベルでの論理的推論を実現する。さらに、CCAの複数層を密結合(dense connection)することで、単一ステップ(single-hop)および複数ステップ(multi-hop)の論理的推論の特徴を同時に捉えることが可能となる。本モデルは、公開のドキュメントレベルREデータセットであるDocRED、CDR、GDAの3つにおいて評価された。実験結果から、本モデルがこれらのデータセットにおいて最先端(state-of-the-art)の性能を達成していることが示された。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています