2달 전

양방향 LSTM 특성 표현을 이용한 간단하고 정확한 의존 구문 분석

Eliyahu Kiperwasser; Yoav Goldberg
양방향 LSTM 특성 표현을 이용한 간단하고 정확한 의존 구문 분석
초록

우리는 문장 의존성 분석을 위한 간단하면서도 효과적인 방안을 제시합니다. 이 방안은 양방향 LSTM(BiLSTM)을 기반으로 합니다. 각 문장 토큰은 해당 토큰의 문장적 맥락을 나타내는 BiLSTM 벡터와 연결되며, 특징 벡터는 몇 개의 BiLSTM 벡터를 결합하여 구성됩니다. BiLSTM은 파서의 목적함수와 함께 공동으로 훈련되어, 매우 효과적인 특징 추출기를 제공합니다. 우리는 이 접근법의 효과성을 탐욕적 전이 기반 파서와 전역 최적화 그래프 기반 파서에 적용함으로써 입증하였습니다. 결과적으로 얻어진 파서들은 매우 단순한 구조를 가지고 있으며, 영어와 중국어에서 최신 연구 성과와 맞먹거나 이를 초월하는 정확도를 보여주었습니다.

양방향 LSTM 특성 표현을 이용한 간단하고 정확한 의존 구문 분석 | 최신 연구 논문 | HyperAI초신경