HyperAIHyperAI

Command Palette

Search for a command to run...

異種注意力を用いたLeviグラフAMRパーサー

Han He Jinho D. Choi

概要

バイアフィンデコーダーと組み合わせることで、トランスフォーマーはテキストからグラフへの変換(text-to-graph transduction)に効果的に適応し、AMRパーシングにおいて最先端の性能を達成している。しかし、これまでの多くの研究では、アークやラベルの予測のいずれか、あるいは両方においてバイアフィンデコーダーに依存している。実際には、デコーダーが使用する多くの特徴量は、既にトランスフォーマー自身が学習可能である。本研究では、トークン、コンセプト、ラベルといった異種データを一つの入力としてトランスフォーマーに供給し、その中でアテンションを学習する新しいAMRパーシングアプローチを提示する。さらに、トランスフォーマーから得られるアテンション行列のみを用いて、AMRグラフのすべての要素(コンセプト、アーク、ラベル)を予測する。提案モデルは、従来の最先端グラフパーサーよりもはるかに少ないパラメータ数で構成されているが、AMR 2.0および3.0の評価において、同等またはそれ以上の精度を達成している。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています