12일 전

다중 그레인 주의 메커니즘 기반 감정 분류를 위한 네트워크

{Feifan Fan, Dongyan Zhao, Yansong Feng}
다중 그레인 주의 메커니즘 기반 감정 분류를 위한 네트워크
초록

우리는 문맥 수준의 감성 분류를 위한 새로운 다중 입자 주의망(MGAN) 모델을 제안한다. 기존의 접근 방식은 대부분 거시적(granularity) 주의 메커니즘을 사용하고 있는데, 이는 특정 주제가 다수의 단어로 구성되거나 더 큰 문맥을 포함할 경우 정보 손실을 초래할 수 있다. 본 연구에서는 주제와 문맥 간의 단어 수준 상호작용을 포착할 수 있는 미세한 주의 메커니즘을 제안한다. 이후 이러한 미세한 주의와 거시적인 주의 메커니즘을 결합하여 MGAN 아키텍처를 구성한다. 또한, 기존 연구들이 각 주제를 그에 해당하는 문맥과 별도로 학습하는 반면, 동일한 문맥을 공유하는 다양한 주제 간의 문맥 수준 상호작용을 정량화하기 위해 주제 정렬 손실(Aspect Alignment Loss)을 설계하였다. 제안된 방법은 SemEval 2014에서 제공하는 노트북 및 레스토랑 데이터셋과 트위터 데이터셋 총 세 가지 데이터셋에서 평가되었다. 실험 결과, 다중 입자 주의망은 모든 데이터셋에서 최신 기술(SOTA) 방법들을 일관되게 상회함을 확인하였다. 또한 주제 정렬 손실의 효과를 검증하기 위한 추가 실험을 수행한 결과, 문맥 수준의 주제 간 상호작용이 추가적인 유용한 정보를 제공하며 성능 향상에 기여함을 입증하였다.

다중 그레인 주의 메커니즘 기반 감정 분류를 위한 네트워크 | 최신 연구 논문 | HyperAI초신경