문장 재구성과 지식 기반 사전을 활용한 원거리 감독 관계 추출

우리는 동일한 지식 기반(Knowledge Base) 쌍을 포함한 문장들의 표현을 더욱 가깝게 만듦으로써 원거리 지도 관계 추출(distantly supervised relation extraction)을 촉진하기 위한 다중 작업(multi-task), 확률적 접근법을 제안한다. 이를 달성하기 위해 관계 분류기와 함께 공동으로 학습되는 변분 오토인코더(Variational Autoencoder, VAE)를 통해 문장의 은닉 공간(latent space)을 편향시키는 방식을 사용한다. 이 은닉 코드는 쌍의 표현을 안내하며 문장 재구성에 영향을 미친다. 원거리 지도 방식으로 생성된 두 개의 데이터셋에서 수행된 실험 결과는 다중 작업 학습이 성능 향상에 기여함을 보여준다. 또한, VAE에 지식 기반 사전 지식(priors)을 도입해 추가 탐색한 결과, 문장 공간이 지식 기반의 공간에 더 가까워지며, 해석 가능성(interpretability)을 제공하고 성능을 추가로 향상시킬 수 있음을 확인하였다.