11일 전

이벤트-이벤트 관계 추출을 위한 최적의 컨텍스트 문장 선택

{and Thien Huu Nguyen, Linh Van Ngo, Nghia Ngo Trung, Hieu Man Duc Trong}
초록

사건을 이해하기 위해서는 입력 문서 내의 사건 언급들 간의 구조적 및 시간적 순서를 인식하여 사건 구조 또는 그래프를 구성하는 것이 필요하다. 본 연구는 이러한 목표를 달성하기 위해 두 개의 주어진 사건 언급/트리거 간의 하위사건 관계(Subevent Relation, SRE) 및 시간적 사건 관계(Temporal Event Relation, TRE)를 추출하는 문제를 다룬다. 최근의 최첨단 기법들은 입력 사건 언급 쌍에 대한 효과적인 문맥 표현을 유도하기 위해 트랜스포머 기반 언어 모델(예: BERT)을 활용하고 있다. 그러나 기존의 트랜스포머 기반 모델이 SRE 및 TRE에 적용될 때 겪는 주요한 한계는 입력 텍스트의 길이를 제한된 범위(예: BERT 기준 최대 512개의 서브토큰)로만 인코딩할 수 있다는 점이다. 이로 인해 문서 내에서 더 멀리 떨어진 중요한 문맥 문장들을 효과적으로 포착할 수 없게 된다. 본 연구에서는 사건-사건 관계 추출을 위해 문서 수준의 문맥, 특히 중요한 문맥 문장들을 보다 효과적으로 모델링할 수 있는 새로운 방법을 제안한다. 본 방법은 주어진 엔티티 언급 쌍에 대해 문서 내에서 가장 중요한 문맥 문장을 식별하고, 이를 짧은 문서로 압축하여 트랜스포머 기반 언어 모델이 전체적으로 처리할 수 있도록 한다. 모델 학습을 위해 REINFORCE 알고리즘이 사용되며, 모델 성능을 측정하고, 문장 간의 문맥 기반 및 지식 기반 유사도를 반영하는 새로운 보상 함수가 제안된다. 광범위한 실험을 통해 제안된 방법이 기준 데이터셋에서 최첨단 성능을 달성함을 입증하였다.

이벤트-이벤트 관계 추출을 위한 최적의 컨텍스트 문장 선택 | 최신 연구 논문 | HyperAI초신경