2달 전

감성 분류를 위한 속성 표현과 주입의 재고

Reinald Kim Amplayo
감성 분류를 위한 속성 표현과 주입의 재고
초록

제품 리뷰에서 사용자 및 제품 정보와 같은 텍스트 속성은 감성 분류 모델의 성능을 개선하기 위해 활용되어 왔습니다. 사실상의 표준 방법은 이러한 속성을 주의 메커니즘에 추가적인 편향으로 통합하는 것입니다. 모델 아키텍처를 확장함으로써 더 많은 성능 향상을 이룰 수 있습니다. 본 논문에서는 위의 방법이 속성을 표현하고 주입하는 가장 비효율적인 방식임을 보여줍니다. 이 가설을 입증하기 위해, 이전의 복잡한 아키텍처를 가진 모델과 달리, 우리는 기반 모델을 단순한 양방향 LSTM(비엘스티엠)에 주의 분류기로 제한하고, 대신 속성이 모델에 어떻게 그리고 어디에 통합되어야 하는지에 초점을 맞춥니다. 우리는 속성을 청크별 중요도 가중치 행렬로 표현하고, 속성을 주입할 네 가지 위치(즉, 임베딩, 인코딩, 주의 메커니즘, 분류기)를 고려합니다. 실험 결과, 우리가 제안한 방법이 표준 접근법보다 유의미한 개선을 이루었으며, 주의 메커니즘이 속성을 주입하는 최악의 위치라는 점이 확인되어 이전 연구와 상충되는 결과를 얻었습니다. 또한 우리는 단순한 기반 모델을 사용함에도 불구하고 최신 연구보다 우수한 성능을 보였습니다. 마지막으로, 이러한 표현들이 다른 작업에도 잘 전달됨을 보여주었습니다. 모델 구현 및 데이터셋은 다음 링크에서 제공됩니다: https://github.com/rktamplayo/CHIM.