11일 전
텍스트 분류를 위한 텍스트 레벨 그래프 신경망
Lianzhe Huang, Dehong Ma, Sujian Li, Xiaodong Zhang, Houfeng WANG

초록
최근 들어, 복잡한 구조를 효과적으로 처리하고 전역 정보를 유지하는 데 우수한 성능을 보이는 그래프 신경망(GNN) 기술이 텍스트 분류 분야에서 활발히 연구되고 있다. 그러나 기존의 GNN 기반 방법은 전체 코퍼스에 대해 고정된 그래프 구조를 사용함으로써 온라인 테스트를 지원하지 못하고, 높은 메모리 소비 문제를 겪고 있다. 이러한 문제를 해결하기 위해, 본 연구에서는 전체 코퍼스에 하나의 고정 그래프를 사용하는 대신, 각 입력 텍스트마다 전역 파라미터를 공유하는 방식으로 그래프를 동적으로 구축하는 새로운 GNN 기반 모델을 제안한다. 이 방법은 개별 텍스트가 전체 코퍼스에 의존하지 않도록 하여 온라인 테스트를 가능하게 하면서도 전역 정보를 유지할 수 있다. 또한, 텍스트 내에서 훨씬 작은 윈도우 크기로 그래프를 구성함으로써 더 많은 국소적 특징을 추출할 뿐만 아니라, 간선 수와 메모리 소비를 크게 감소시킨다. 실험 결과, 제안한 모델은 기존 모델들에 비해 여러 텍스트 분류 데이터셋에서 더 높은 성능을 달성하면서도 메모리 사용량이 적은 것으로 나타났다.