지식 기반에서 학습과 추론을 위한 엔티티와 관계의 임베딩

우리는 신경망 임베딩 접근법을 사용하여 지식 기반(KBs)에서 개체와 관계의 표현을 학습하는 것을 고려합니다. 우리는 대부분의 기존 모델, NTN (Socher 등, 2013)과 TransE (Bordes 등, 2013b)를 포함하여, 이러한 모델들이 통합된 학습 프레임워크 하에서 일반화될 수 있음을 보여줍니다. 이 프레임워크에서는 개체가 신경망으로부터 학습된 저차원 벡터로 표현되고, 관계는 이중선형 및/또는 선형 매핑 함수로 표현됩니다. 이 프레임워크 하에서 링크 예측 작업에 대해 다양한 임베딩 모델들을 비교합니다. 간단한 이중선형 공식이 이 작업에서 새로운 최고 성능 결과를 달성함을 보여주며(프리베이스에서 상위 10개 정확도 73.2% 대비 TransE의 54.7%), 이를 통해 개체와 관계 사이의 연결성을 더욱 효과적으로 예측할 수 있음을 확인하였습니다.또한, 학습된 관계 임베딩을 활용하여 "BornInCity(a,b) and CityInCountry(b,c) => Nationality(a,c)"와 같은 논리 규칙을 추출하는 새로운 접근법을 소개합니다. 우리는 이중선형 목적함수로부터 학습된 임베딩이 특히 관계 의미론을 포착하는 데 우수하다는 것을 발견하였으며, 관계의 조합은 행렬 곱셈으로 특징지어짐을 확인하였습니다. 더욱 흥미롭게도, 우리의 임베딩 기반 규칙 추출 접근법이 복합적 추론을 포함하는 호른 규칙(Horn rules) 추출에서 최신의 신뢰도 기반 규칙 채굴 접근법보다 성능이 우수함을 입증하였습니다.