초록
텍스트 분류는 텍스트의 범주를 식별하는 어려운 문제입니다. 학습 과정에서 단어 임베딩이 매개변수의 큰 부분을 차지합니다. 제한된 컴퓨팅 자원의 한계로 인해, 이는 후속 네트워크 설계의 능력을 간접적으로 제한합니다. 매개변수 수를 줄이기 위해 최근에 구성적 코딩 메커니즘이 제안되었습니다. 이 연구에서는 이를 바탕으로 구성적 가중 코딩 방법을 추가로 탐구하고 제안합니다. 또한, 단어 임베딩 사이의 관계를 모델링하기 위해 캡슐 네트워크를 적용하고, k-평균 군집화 이론을 기반으로 하는 새로운 라우팅 알고리즘을 제안하여 단어 임베딩 간의 관계를 충분히 활용할 수 있도록 합니다. 우리의 구성적 가중 코딩 방법과 라우팅 알고리즘을 결합하여 텍스트 분류용 신경망을 설계하였습니다. 8개의 어려운 텍스트 분류 데이터셋에서 수행한 실험 결과, 제안된 방법이 현존하는 최고 수준의 접근법보다 훨씬 적은 매개변수로 경쟁력 있는 정확도를 달성함을 보여주었습니다.