11일 전

포인터 네트워크를 활용한 전이 기반 의미적 의존 구문 분석

{Carlos G{\'o}mez-Rodr{\'\i}guez, Daniel Fern{\'a}ndez-Gonz{\'a}lez}
포인터 네트워크를 활용한 전이 기반 의미적 의존 구문 분석
초록

포인터 네트워크(.Pointer Networks)를 활용한 전이 기반 파서는 의존성 파싱 분야에서 새로운 최첨단 기술로 자리 잡았으며, 레이블이 부여된 구문 구조 트리를 생성하는 데 뛰어난 성능을 보이며, 이 작업에서 기존의 그래프 기반 모델들을 능가하고 있다. 이러한 강력한 신경망의 능력을 더욱 도전적인 자연어 처리(NLP) 문제에 적용하기 위해, 포인터 네트워크의 장점을 활용하여 레이블이 부여된 방향성 비순환 그래프(Directed Acyclic Graph, DAG)를 직관적으로 생성하고 의미적 의존성 파싱을 수행할 수 있는 전이 시스템을 제안한다. 또한, BERT에서 추출한 심층적 문맥 기반 단어 임베딩(deep contextualized word embeddings)을 본 방법에 통합하여 성능을 향상시켰다. 그 결과, 기존의 모든 전이 기반 모델을 능가할 뿐만 아니라, SemEval 2015 Task 18 데이터셋에서 이전의 최첨단 그래프 기반 파서 중 가장 높은 완전 지도 학습 정확도를 달성하였다.

포인터 네트워크를 활용한 전이 기반 의미적 의존 구문 분석 | 최신 연구 논문 | HyperAI초신경