Command Palette
Search for a command to run...
FLAT:フラットラティスTransformerを用いた中国語NER
FLAT:フラットラティスTransformerを用いた中国語NER
Xiaonan Li Hang Yan Xipeng Qiu Xuanjing Huang
概要
近年、語彙情報を統合することにより、中国語固有名詞抽出(NER)において文字・語彙ラティス構造が有効であることが示された。しかし、ラティス構造は複雑かつ動的であるため、既存のラティスベースのモデルはGPUの並列計算を十分に活用できず、通常、推論速度が低いという課題がある。本論文では、中国語NER向けにFlat-LAttice Transformer(FLAT)を提案する。FLATはラティス構造を、スパン(span)から構成される平坦化構造に変換する。各スパンは元のラティスにおける文字または潜在語(latent word)およびその位置に対応する。Transformerの強力な表現力と、適切に設計された位置エンコーディングを活用することで、FLATはラティス情報の完全な活用が可能であり、優れた並列処理能力を有する。4つのデータセットにおける実験結果から、FLATは性能および効率の面で、他の語彙ベースモデルを上回ることが確認された。