HiTrans: 대화에서 감정 탐지 위한 변형기 기반의 맥락 및 화자 민감 모델

대화 내 감정 탐지(Emotion Detection in Conversations, EDC)는 다수의 발화자가 참여하는 대화에서 각 발화에 대한 감정을 탐지하는 작업이다. 기존의 비대화형 감정 탐지와 달리, EDC 모델은 맥락에 민감해야 하며(예: 단일 발화가 아니라 전체 대화를 이해해야 함), 발화자에 민감해야 한다(예: 어떤 발화가 어느 발화자에게 속하는지를 이해해야 함). 본 논문에서는 이러한 특성을 고려하여, 맥락과 발화자에 모두 민감한 트랜스포머 기반 모델인 HiTrans를 제안한다. HiTrans는 두 개의 계층적 트랜스포머로 구성되어 있으며, 하위 레벨 트랜스포머로 BERT를 활용하여 국소적인 발화 표현을 생성한 후, 이를 상위 레벨 트랜스포머에 입력함으로써 발화 표현이 대화의 전반적인 맥락에 민감하도록 한다. 또한, 모델이 발화자에 민감하도록 보조 과제를 도입하였으며, 이를 쌍별 발화자 확인(pairwise utterance speaker verification, PUSV)이라고 한다. 이 보조 과제는 두 발화가 동일한 발화자로부터 나왔는지를 분류하는 것을 목적으로 한다. 제안한 모델은 EmoryNLP, MELD, IEMOCAP 세 가지 벤치마크 데이터셋에서 평가되었으며, 실험 결과 기존 최고 성능 모델들을 상회하는 성능을 보였다.