대화 문서를 위한 윈도우 트랜스포머: 인과적 감정 함의를 위한 통합 프레임워크

인과 감정 함의(Causal Emotion Entailment, CEE) 작업은 대화적 맥락에서 감정 문서의 레이블링되지 않은 텍스트로부터 가능한 모든 감정과 그에 해당하는 원인 쌍을 추출하는 것을 목표로 한다. 기존의 대부분의 CEE 작업 해결 방법은 두 단계 파이프라인 프레임워크를 따르며, 첫 번째 단계에서는 감정 구절과 원인 구절을 식별하고 각각의 구절 표현을 추출한다. 두 번째 단계에서는 최종적인 감정-원인 쌍을 구성한다. 그러나 이러한 기존 방법들은 구절 간의 거리가 감정-원인 쌍 매칭에 미치는 영향을 간과하고 있다. 본 연구에서는 이 문제를 해결하기 위해 Window Transformer를 활용한 공동 학습 프레임워크를 제안한다. 사전 훈련된 BERT와 RoBERTa를 텍스트 인코더로 사용하여 주어진 문서 내 구절의 국소적 표현을 생성한다. 동시에, 이를 2차원 Window Transformer에 입력하여 구절 표현이 윈도우 내 맥락에 민감하게 반응하도록 하며, 구절 간의 의존 관계를 추출한다. 또한, 문서 수준에서 후보 구절들을 순위 매김함으로써 인과적 감정 함의를 추출하고, 커널 기반의 상대적 위치 임베딩을 통해 구절 쌍(감정 쌍 및 원인 쌍)의 표현을 강화한다. 실험 결과, 제안한 프레임워크는 기준 데이터셋에서 최신 기술(SOTA) 수준의 성능을 달성함을 확인하였다.