2달 전
관계 예측을 보조 학습 목표로 활용하여 다중 관계 그래프 표현 개선
Yihong Chen; Pasquale Minervini; Sebastian Riedel; Pontus Stenetorp

초록
다중 관계 그래프에서 좋은 표현을 학습하는 것은 지식 기반 완성(Knowledge Base Completion, KBC)에 필수적입니다. 본 논문에서는 다중 관계 그래프 표현 학습을 위한 새로운 자기 감독 훈련 목표를 제안합니다. 이는 일반적으로 사용되는 1vsAll 목표에 단순히 관계 예측을 통합하는 방법을 통해 이루어집니다. 새로운 훈련 목표는 주어진 트리플의 주제(subject)와 목적(object)을 예측하기 위한 항목뿐만 아니라, 관계 유형을 예측하기 위한 항목도 포함합니다. 우리는 이 새로운 목표가 KBC에서의 다중 관계 학습에 어떻게 영향을 미치는지 분석하였습니다. 다양한 데이터셋과 모델에서 수행된 실험 결과, 관계 예측이 KBC에서 가장 널리 사용되는 평가 작업인 엔티티 순위(entity ranking)를 크게 개선할 수 있음을 확인하였습니다. FB15k-237 데이터셋에서는 MRR(Mean Reciprocal Rank)가 6.1% 증가하고 Hits@1이 9.9% 증가하였으며, Aristo-v4 데이터셋에서는 MRR가 3.1% 증가하고 Hits@1이 3.4% 증가하였습니다. 또한, 우리는 제안된 목표가 특히 많은 술어(predicate)를 가진 고도로 다중 관계 데이터셋에서 효과적이며, 더 큰 임베딩 크기를 사용할 때 더 나은 표현을 생성함을 발견하였습니다.