Ask2Transformers: 사전 훈련된 언어 모델을 이용한 제로샷 도메인 라벨링

본 논문에서는 지도 없이 WordNet 동의어 집합(synset)에 도메인 라벨을 할당하기 위해 다양한 사전 학습된 언어 모델을 활용하는 시스템을 제시합니다. 또한, 이 시스템은 특정 도메인 라벨 세트의 사용에 제한되지 않습니다. 우리는 다양한 상용 사전 학습된 언어 모델과 작업 공식화(task formulation) 내에 인코딩된 지식을 활용하여 특정 WordNet 정의의 도메인 라벨을 추론합니다. 제안된 제로샷(zero-shot) 시스템은 평가에 사용된 영어 데이터셋에서 새로운 최고 수준의 성능을 달성하였습니다.