초록
최근 최고 성능을 기록하는 신경망 실체 링킹 모델들은 주로 어텐션 기반의 bag-of-words 문맥 모델과 단어 임베딩에서 부트스트랩된 사전 훈련된 실체 임베딩을 활용하여 주제 수준의 문맥 적합성을 평가한다. 그러나 언급의 직접적 문맥에 내재된 잠재적 실체 유형 정보를 간과함으로써, 이러한 모델들은 종종 잘못된 유형을 가진 실체로 언급을 연결하는 경향이 있다. 이 문제를 해결하기 위해, 본 연구에서는 사전 훈련된 BERT 기반으로 잠재적 실체 유형 정보를 실체 임베딩에 주입하는 방법을 제안한다. 또한, 최고 성능 모델의 국부적 문맥 모델에 BERT 기반의 실체 유사도 점수를 통합함으로써, 더 정교하게 잠재적 실체 유형 정보를 포착할 수 있도록 한다. 제안하는 모델은 표준 벤치마크(AIDA-CoNLL)에서 기존 최고 성능 모델들을 크게 능가한다. 자세한 실험 분석을 통해 제안 모델이 직접적 기준 모델이 생성하는 대부분의 유형 오류를 정정함을 확인할 수 있었다.