9일 전

계속되는 아спект 감성 분류 작업 시퀀스를 위한 BERT의 적응

Zixuan Ke, Hu Xu, Bing Liu
계속되는 아спект 감성 분류 작업 시퀀스를 위한 BERT의 적응
초록

이 논문은 연속적인 관점 감성 분류(Aspect Sentiment Classification, ASC) 작업 시퀀스에 대한 지속 학습(Continual Learning, CL)을 연구한다. 문서 감성 분류를 위한 일부 CL 기법이 제안된 바 있으나, ASC에 대한 CL 연구는 아직 존재하지 않는 것으로 알려져 있다. 연속적으로 ASC 작업 시퀀스를 학습하는 CL 시스템은 다음 두 가지 문제를 해결해야 한다: (1) 이전 작업에서 학습한 지식을 새로운 작업에 전이하여 더 나은 모델을 학습하도록 지원하고, (2) 기존 작업의 모델 성능을 유지하여 기존 지식이 망각되지 않도록 해야 한다. 본 논문에서는 이러한 문제를 해결하기 위해 새로운 캡슐 네트워크 기반 모델인 B-CL을 제안한다. B-CL은 전방 및 후방 지식 전이를 통해 새로운 작업과 기존 작업 모두에서 ASC 성능을 크게 향상시킨다. B-CL의 효과성은 광범위한 실험을 통해 입증되었다.