2ヶ月前

高速な要約生成における強化学習選択文の書き換え

Yen-Chun Chen; Mohit Bansal
高速な要約生成における強化学習選択文の書き換え
要約

人間が長い文書を要約する方法に着想を得て、当研究ではまず重要な文を選択し、次にそれらの文を抽象的に(つまり、圧縮して言い換え)再構成することで簡潔な全体的な要約を生成する、精度が高くかつ迅速な要約モデルを提案します。本研究では、これらの2つのニューラルネットワーク間の非微分可能な計算を階層的に橋渡すため、新たな文章レベルのポリシーグラディエント手法を使用しています。これにより言語の流暢性を維持しつつ、連携が可能となります。実証的には、CNN/デイリー・メールデータセットにおいてすべての指標(人間評価も含む)で新たな最先端の成果を達成しました。さらに、有意に高い抽象度スコアも得ています。また、まず文章レベルで処理を行い、その後単語レベルで処理を行うことで、当研究のニューラル生成モデルは並列デコーディングが可能となり、従来の長文エンコーダー-デコーダーモデルと比較して推論速度が10〜20倍速くなり、学習収束も4倍速くなるという結果を得ました。さらに当研究では、テスト専用DUC-2002データセットでの汎化性能も示しており、ここでも最先端モデルよりも高いスコアを達成しています。

高速な要約生成における強化学習選択文の書き換え | 最新論文 | HyperAI超神経