16일 전

FATRER: 정확하고 강건한 대화형 감정 인식을 위한 전체 주의 주제 정규화기

Yuzhao Mao, Di Lu, Xiaojie Wang, Yang Zhang
FATRER: 정확하고 강건한 대화형 감정 인식을 위한 전체 주의 주제 정규화기
초록

본 논문은 대화 문장에서 발생하는 대화자들의 감정을 이해하는 데 초점을 맞추고 있다. 기존의 관련 연구들은 주로 감정 예측의 정확도 향상에 주력해 왔으나, 국소적 맥락이 적대적 공격에 의해 훼손되었을 때 모델의 강건성(로버스트성)에 대한 고려를 소홀히 해왔다. 정확도를 보장하면서도 강건성을 유지하기 위해, 우리는 국소적 맥락을 모델링할 때 감정 관련 전역적 관점을 제공할 수 있도록 전체 주제 주의(attention) 정규화기를 통합한 감정 인식기를 제안한다. 이 정규화기는 표현 측면과 손실 측면에서 모두 정규화를 수행할 수 있도록 공동 주제 모델링 전략을 도입함으로써 구현된다. 과도한 정규화를 방지하기 위해 기존 주제 모델링에서 존재하는 사전 분포에 대한 제약을 제거하고, 주의(attention) 정렬에 기반한 완전한 확률적 근사법을 적용한다. 실험 결과, 제안하는 모델은 최신 기술 대비 더 우수한 성능을 보이며, 세 가지 유형의 적대적 공격 하에서도 설득력 있는 강건성을 입증하였다.

FATRER: 정확하고 강건한 대화형 감정 인식을 위한 전체 주의 주제 정규화기 | 최신 연구 논문 | HyperAI초신경