11日前

Transformer言語モデルを用いた抽出型および要約型ニューラルドキュメント要約

Sandeep Subramanian, Raymond Li, Jonathan Pilault, Christopher Pal
Transformer言語モデルを用いた抽出型および要約型ニューラルドキュメント要約
要約

長文ドキュメント(数千語を超えるもの)の要約をニューラル抽象要約法により生成する手法を提案する。本手法では、要約生成の前に単純な抽出型処理を実施し、その結果をTransformer言語モデルの入力として用いることで、要約生成に際して関連情報を適切に条件づける。本研究では、この抽出型ステップが要約品質を顕著に向上させることを示す。また、従来のコピー機構を用いた手法と比較して、本アプローチはより抽象的な要約を生成しつつ、ROUGEスコアもより高い結果を達成することを確認した。注:上記の要約は著者らによって作成されたものではなく、本論文で提示されたモデルの一つが生成したものである。

Transformer言語モデルを用いた抽出型および要約型ニューラルドキュメント要約 | 最新論文 | HyperAI超神経