11日前

ピラミッド:ネストされた名前付きエンティティ認識のための階層モデル

{Jue Wang, Lidan Shou, Ke Chen, Gang Chen}
ピラミッド:ネストされた名前付きエンティティ認識のための階層モデル
要約

本稿では、ネスト型名前付きエンティティ認識(Nested NER)のための新規階層モデル「Pyramid」を提案する。本手法では、トークンまたはテキスト領域の埋め込み表現を、下層から上層へと再帰的に、ピラミッド形状に積み重ねられたL段のNER層に逐次入力する。各層を通過するたびに、埋め込みの長さが1つ短くなる。層lにおける隠れ状態は、入力テキスト内のl-gramを表しており、その対応するテキスト領域が完全なエンティティメンションを表す場合にのみラベル付けされる。さらに、層間の双方向的相互作用を可能にする逆ピラミッド構造も設計した。提案手法は、ACE-2004、ACE-2005、GENIA、NNEの各データセットにおいて、従来の埋め込み表現を用いた場合、F1スコアがそれぞれ80.27、79.42、77.78、93.70を達成し、事前学習された文脈依存型埋め込みを用いた場合、87.74、86.34、79.31、94.68と、いずれも最先端の性能を実現した。さらに、本モデルは、より一般的な重複型名前付きエンティティ認識(Overlapping NER)タスクにも適用可能であることが示された。初期実験により、本手法が重複型NERにおいても有効であることが確認された。

ピラミッド:ネストされた名前付きエンティティ認識のための階層モデル | 最新論文 | HyperAI超神経