階層的アテンションを備えた異種グラフネットワークを用いたニューラル抽出要約

文単位の抽出型テキスト要約は、情報量の高い構成要素と簡潔な表現を遵守するネットワークマイニングにおけるノード分類タスクと本質的に同一である。抽出された文の間に多くの重複表現が存在するが、一般的な教師あり手法ではこれを正確にモデル化することが困難である。従来の文エンコーダー、特にBERTは、元となる文間の関係性を効果的にモデル化する点で優れていたが、選択された要約文間の重複性を考慮する能力に欠けており、文のターゲットラベル間に内在する依存関係も捉えられていない。本研究では、テキスト要約を対象とした階層的注意型異種グラフ（Hierarchical Attentive Heterogeneous Graph for Text Summarization；HAHSum）を提案する。本手法は、語と文といった異なるレベルの情報を効果的にモデル化し、文間の重複依存関係を明確に捉えることができる。我々のアプローチは、重複に注意したグラフを用いて文表現を反復的に精緻化し、メッセージ伝達によりターゲットラベル間の依存関係を伝達する。大規模ベンチマークコーパス（CNN/DM、NYT、NEWSROOM）における実験結果から、HAHSumが画期的な性能を達成し、従来の抽出型要約手法を上回ることが示された。