2ヶ月前

End-to-Endの神経망RSTスタイルディスコース解析のための単純かつ強力なベースライン

Naoki Kobayashi; Tsutomu Hirao; Hidetaka Kamigaito; Manabu Okumura; Masaaki Nagata
End-to-Endの神経망RSTスタイルディスコース解析のための単純かつ強力なベースライン
要約

RST(修辞構造理論)スタイルのディスコース解析モデルを促進し、さらに発展させるためには、信頼性のある実験結果を報告する基準となる強力なベースラインが必要です。本論文では、既存の単純な解析戦略であるトップダウンとボトムアップを、さまざまなトランスフォーマーベースの事前学習言語モデルと統合することで、強力なベースラインを探求しています。2つのベンチマークデータセットから得られた実験結果は、解析性能が主に事前学習言語モデルに依存しており、解析戦略よりも重要であることを示しています。特に、DeBERTaを使用した場合、ボトムアップパーザーは現行の最良のパーザーと比較して大幅な性能向上を達成しました。また、我々の文内および複数文間の解析と中心性予測に関する分析では、スパンマスキングスキームを持つ言語モデルが特に解析性能を向上させることを明らかにしています。

End-to-Endの神経망RSTスタイルディスコース解析のための単純かつ強力なベースライン | 最新論文 | HyperAI超神経