빈칸 맞추기: 관계 학습을 위한 분포적 유사성

일반적인 관계 추출기들은 임의의 관계를 모델링할 수 있으며, 정보 추출 분야에서 핵심적인 목표입니다. 기존 연구에서는 일반적인 관계 추출기를 구축하기 위해 표면 형태(surface form)로 관계를 표현하거나, 기존 지식 그래프에서 얻은 관계와 함께 표면 형태를 공동으로 임베딩하는 방법을 시도해 왔습니다. 그러나 이러한 접근 방식들은 일반화 능력에 한계가 있습니다.본 논문에서는 Harris의 분포 가설을 관계에 확장한 연구와 최근 텍스트 표현 학습(BERT 등)의 발전을 바탕으로 엔티티 링크 텍스트에서만 작업 독립적인 관계 표현을 구축합니다. 우리는 이 표현들이 그 작업의 학습 데이터를 사용하지 않더라도 예시 기반 관계 추출(FewRel)에서 이전 연구보다 크게 우수함을 보여줍니다. 또한, 우리의 작업 독립적인 표현으로 초기화된 모델이 감독된 관계 추출 데이터셋에서 조정되면, SemEval 2010 Task 8, KBP37, 그리고 TACRED에서 이전 방법들보다 크게 우수한 성능을 나타냄을 보여줍니다.