11일 전

구문 정보의 주의 집중형 앙상블을 통한 명명된 엔터티 인식 향상

Yuyang Nie, Yuanhe Tian, Yan Song, Xiang Ao, Xiang Wan
구문 정보의 주의 집중형 앙상블을 통한 명명된 엔터티 인식 향상
초록

명사 인식(Named Entity Recognition, NER)은 문장 수준의 구문적 및 의미적 특성에 매우 민감하며, 실질적인 텍스트 내에서 엔터티가 어떻게 사용되고 배치되는지에 따라 엔터티를 추출할 수 있다. 이러한 특성을 모델링하기 위해 기존 자원을 활용하여 NER 작업에 유용한 지식을 제공할 수 있다. 일부 기존 연구들은 이러한 접근의 효과성을 입증하였지만, 특정 맥락에서 중요한 지식을 적절히 구분하고 활용하는 데에는 한계가 있다. 본 논문에서는 제안된 키-값 메모리 네트워크, 구문 주의(attention) 메커니즘, 게이트 메커니즘을 통해 각각 구문 정보의 인코딩, 가중치 부여 및 집계를 기능화하는 주의 기반 통합(attention-based ensemble) 방식을 활용하여 다양한 종류의 구문 정보를 효과적으로 활용함으로써 NER 성능을 향상시킨다. 영어 및 중국어 기준 데이터셋 6개에서 수행된 실험 결과는 제안된 모델의 효과성을 입증하며, 모든 실험 데이터셋에서 기존 연구들을 상회하는 성능을 보였다.

구문 정보의 주의 집중형 앙상블을 통한 명명된 엔터티 인식 향상 | 최신 연구 논문 | HyperAI초신경