HyperAIHyperAI

Command Palette

Search for a command to run...

階層的に精緻化されたラベル注意ネットワークによるシーケンスラベリング

Leyang Cui; Yue Zhang

概要

CRF(条件随机场)は統計的な系列ラベリングの強力なモデルとして使用されてきました。しかし、ニューラル系列ラベリングにおいて、BiLSTM-CRFはBiLSTM-softmaxによる局所分類と比較して常に優れた結果をもたらすわけではありません。これは、CRFの単純なマルコフラベル遷移モデルが強力なニューラルエンコーディングに対して大きな情報利得を与えないためです。より良いラベル系列表現のために、我々は階層的に精緻化されたラベルアテンションネットワークを調査しました。このネットワークは明示的にラベル埋め込みを利用し、階層的なアテンションによって各単語に段階的に精緻化されたラベル分布を与えることで、潜在的な長期的なラベル依存関係を捉えます。品詞タギング、固有表現認識(NER)、CCGスーパータギングにおける結果は、提案されたモデルが同程度のパラメータ数で全体的なタギング精度を向上させるとともに、BiLSTM-CRFと比較して訓練およびテストを大幅に高速化することを示しています。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています
階層的に精緻化されたラベル注意ネットワークによるシーケンスラベリング | 記事 | HyperAI超神経