効率的な長距離関係抽出を実現するDG-SpanBERT

自然言語処理において、関係抽出は非構造化テキストを合理的に理解することを目的としている。本研究では、事前学習された言語モデルであるSpanBERTとグラフ畳み込みネットワーク（GCN）を用いて、生の文から意味特徴を抽出し、潜在特徴をプールする新しいSpanBERTベースのグラフ畳み込みネットワーク（DG-SpanBERT）を提案する。本モデルは、大規模コーパスから豊かな語彙的特徴を学習するというSpanBERTの優位性を引き継いでいる。また、依存構造木にGCNを適用することで、エンティティ間の長距離関係を捉える能力も備えている。実験の結果、既存の依存関係ベースおよびシーケンスベースのモデルと比較して、本モデルは優れた性能を発揮し、TACREDデータセットにおいて最先端の性能を達成した。