構造意識型のシーケンス・トゥ・シーケンス変換器の微調整による遷移ベースAMR解析

最近、事前学習済みのシーケンス・トゥ・シーケンス型Transformerモデルを用いて線形化された抽象意味表現（AMR）グラフを予測する手法が、AMRパーシングのベンチマークにおいて大幅な性能向上を達成している。これらのパーサーはシンプルであり、構造の明示的モデリングを回避するが、グラフのwell-formedness（構造的整合性）の保証や文とグラフの内在的な対応関係といった望ましい性質を欠いている。本研究では、汎用的な事前学習済みシーケンス・トゥ・シーケンス言語モデルと、構造に配慮した遷移ベースのアプローチを統合することを検討する。我々は、ポインタに基づく遷移システムから出発し、事前学習済み言語モデルを構造的ファインチューニングに効果的に活用できるように設計された簡略化された遷移セットを提案する。また、事前学習済みエンコーダ・デコーダアーキテクチャ内でのパーサー状態のモデリングや、同じ目的のための異なる語彙戦略についても検討している。近年のAMRパーシングにおける進展と詳細な比較を行い、提案するパーサーが従来の遷移ベース手法が持つ望ましい性質を維持しつつ、よりシンプルな構造でありながら、グラフ再カテゴリ化を必要とせずにAMR 2.0のパーシング性能において新たな最良水準に到達することを示した。