엔터티 구조 내부 및 전반적 관계: 문서 수준 관계 추출을 위한 언급 의존성 모델링

관계 추출 작업에서 핵심적인 역할을 하는 엔티티는 일정한 구조를 갖는다. 본 연구에서는 이러한 구조를 언급 쌍 간의 특징적인 종속 관계로 정의한다. 이를 바탕으로, 표준 자기 주의(self-attention) 메커니즘과 전체 인코딩 단계 전반에 걸쳐 이러한 구조적 종속 관계를 통합하는 SSAN을 제안한다. 구체적으로, 각 자기 주의 빌딩 블록 내부에 두 가지 대체 변환 모듈을 설계하여 주의 흐름에 적응적으로 영향을 주는 편향(attention bias)을 생성함으로써 주의 메커니즘을 유연하게 조정한다. 실험 결과는 제안한 엔티티 구조의 유용성과 SSAN의 효과성을 입증한다. 제안된 모델은 경쟁적인 기준 모델들을 상회하며, 세 가지 대표적인 문서 수준 관계 추출 데이터셋에서 새로운 최고 성능을 달성한다. 또한, 엔티티 구조가 모델의 관계 추출 성능을 어떻게 향상시키는지 보여주기 위해 추이 분석 및 시각화를 추가로 제공한다. 본 연구의 코드는 공개되어 있으며 누구나 접근 가능하다.