2달 전

RAAT: 관계 강화 주의 변환기(Relation-Augmented Attention Transformer)를 이용한 문서 수준 이벤트 추출에서의 관계 모델링

Yuan Liang; Zhuoxuan Jiang; Di Yin; Bo Ren
RAAT: 관계 강화 주의 변환기(Relation-Augmented Attention Transformer)를 이용한 문서 수준 이벤트 추출에서의 관계 모델링
초록

문서 수준의 이벤트 추출(Document-level Event Extraction, DEE) 작업에서 이벤트 인수는 항상 문장 간에 분산되어 있으며(문장 간 문제), 하나의 문서 내에 여러 개의 이벤트가 존재할 수 있다(다중 이벤트 문제). 본 논문에서는 이러한 두 가지 문제를 해결하기 위해 이벤트 인수 간의 관계 정보가 매우 중요하다고 주장하며, 이를 모델링할 수 있는 새로운 DEE 프레임워크인 관계 강화 문서 수준 이벤트 추출(Relation-augmented Document-level Event Extraction, ReDEE)을 제안한다. 구체적으로, 이 프레임워크는 관계 강화 어텐션 트랜스포머(Relation-augmented Attention Transformer, RAAT)라는 독창적이고 맞춤형 트랜스포머를 특징으로 한다. RAAT는 다중 스케일과 다중 양의 인수 관계를 포착하는 데 확장 가능하다. 관계 정보를 더욱 활용하기 위해 별도의 이벤트 관계 예측 작업을 도입하고, 다중 작업 학습 방법을 채택하여 이벤트 추출 성능을 명시적으로 향상시키고자 한다. 광범위한 실험 결과가 제안된 방법의 효과성을 입증하며, 두 개의 공개 데이터셋에서 최신 성능을 달성할 수 있음을 보여준다. 우리의 코드는 https://github.com/TencentYoutuResearch/RAAT 에서 확인할 수 있다.

RAAT: 관계 강화 주의 변환기(Relation-Augmented Attention Transformer)를 이용한 문서 수준 이벤트 추출에서의 관계 모델링 | 최신 연구 논문 | HyperAI초신경