18일 전

의존성 기반 관계 추출을 위한 주의 메커니즘을 갖춘 그래프 컨볼루션 네트워크

{Xiang Wan, Yan Song, Guimin Chen, Yuanhe Tian}
의존성 기반 관계 추출을 위한 주의 메커니즘을 갖춘 그래프 컨볼루션 네트워크
초록

문법적 정보, 특히 의존성 트리(dependency trees)는 기존 연구에서 주어진 개체(entity)와 관련된 문맥 정보를 분석하는 데 더 나은 의미적 안내를 제공하기 위해 널리 활용되어 왔다. 그러나 대부분의 기존 연구는 자동 생성된 의존성 트리에서 발생하는 노이즈 문제에 시달리며, 이로 인해 의존성 정보를 과도하게 활용할 경우 관계 분류 과정에서 오류를 유발할 수 있다. 따라서 본 작업에서는 의존성 정보를 효과적으로 활용하기 위해 필수적인 정제(pruning) 절차가 매우 중요하다. 본 논문에서는 주목성 기반 그래프 컨볼루션 네트워크(Attention-based Graph Convolutional Networks, A-GCN)를 활용한 의존성 기반 관계 추출 방법을 제안한다. 제안하는 방법에서는 사전에 제공되는 의존성 파서로부터 얻은 의존성 트리 내 각 문맥 단어에 대해 그래프 컨볼루션 네트워크 위에 주목성 메커니즘을 적용하여, 서로 다른 단어 간 의존성의 중요도를 구분한다. 또한 단어 간 의존성 유형(dependency types) 역시 중요한 문맥적 안내 정보를 포함하고 있음을 고려하여, A-GCN 모델링 과정에 의존성 유형 정보를 추가로 포함한다. 두 개의 영어 기준 데이터셋에 대한 실험 결과를 통해 제안하는 A-GCN의 효과성을 입증하였으며, 기존 연구를 모두 상회하고 두 데이터셋 모두에서 최고 성능(SOTA, state-of-the-art)을 달성하였다.