事前学習されたTransformerを用いた文抽出要約におけるネストされた木構造の考慮

文書抽出要約は、重要な内容を保持しつつ、文書から要約用の文を抽出することで、文書の長さを短縮する手法である。しかし、事前学習済みのBERTベースエンコーダーを用いる場合、文書内の文の情報を明示的に表現するように学習されていないため、一貫性があり情報量豊かな要約を作成するのは困難である。本研究では、RoBERTaを基盤とするネストされた木構造を用いた抽出要約モデル（NeRoBERTa）を提案する。このモデルでは、与えられた文書内の構文木と話法的（ディスコース）木を統合したネストされた木構造を用いる。CNN/DailyMailデータセットを用いた実験の結果、NeRoBERTaはROUGEスコアにおいてベースラインモデルを上回ることが示された。また、人間による評価においても、NeRoBERTaは一貫性においてベースラインモデルを顕著に上回り、最先端モデルと同等のスコアを達成していることが確認された。