HyperAIHyperAI

Command Palette

Search for a command to run...

深層双方向アテンションを用いたニューラル依存関係解析

Timothy Dozat Christopher D. Manning

概要

本論文は、KiperwasserとGoldberg(2016)の最近の研究を基に、ニューラルアテンションを用いた単純なグラフベースの依存関係解析器を開発しています。他の最近のBiLSTMベースの手法よりも大規模で、より徹底的に正規化された解析器を使用し、biaffine分類器を用いて弧とラベルを予測します。当該解析器は、6つの異なる言語の標準的なツリバンクにおいて最先端またはそれに近い性能を達成しており、特に英語PTBデータセットでは95.7%のUAS(未ラベル付属接続精度)と94.1%のLAS(ラベル付属接続精度)を記録しています。これは、このベンチマークにおける最高性能のグラフベース解析器であり、KiperwasserとGoldberg(2016)の結果をそれぞれ1.8%および2.2%上回っています。また、最高性能の遷移ベース解析器(Kuncoroら, 2016)が達成した95.8%のUASと94.6%のLASに匹敵する性能も示しています。さらに、我々はどのハイパーパラメータ選択がパース精度に大きな影響を与えたかを示し、これにより他のグラフベース手法に対して大幅な改善を達成しました。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています
深層双方向アテンションを用いたニューラル依存関係解析 | 記事 | HyperAI超神経