17일 전
지식 그래프 컨텍스트가 엔티티 해석 모델에 미치는 영향 평가
Isaiah Onando Mulang', , Kuldeep Singh, Chaitali Prabhu, Abhishek Nadgeri, Johannes Hoffart, Jens Lehmann

초록
사전 훈련된 트랜스포머 모델은 텍스트로부터 문맥 정보를 학습함으로써 여러 자연어 처리(NLP) 작업의 성능을 향상시키는 최신 기술로 부상하고 있다. 이러한 모델은 강력한 능력을 지니고 있지만, 특정 상황에서는 여전히 전문 지식이 필요하다. 본 논문에서는 지식 그래프(Wikidata를 예로 들 수 있음)에서 도출된 문맥 정보가 사전 훈련된 트랜스포머 모델에 충분한 신호를 제공하여, Wikidata 지식 그래프에서의 명명된 실체 해석(NED) 성능을 향상시킬 수 있다고 주장한다. 또한 본 연구에서는 제안하는 지식 그래프 문맥이 위키백과(Wikipedia)에도 표준화될 수 있을 것이라 가정하고, 이 지식 그래프 문맥이 최신 NED 모델에 미치는 영향을 위키백과 지식 기반에 대해 평가한다. 실험 결과는 제안하는 지식 그래프 문맥이 위키백과 환경에서도 일반화 가능함을 입증하며, 트랜스포머 아키텍처에 지식 그래프 문맥을 제공하는 것이 기존 베이스라인 모델, 특히 순수한 트랜스포머 모델보다 훨씬 뛰어난 성능을 발휘함을 확인하였다.