16일 전

지식 그래프에서의 논리적 엔티티 표현: 미분 가능한 규칙 학습을 위한 접근

Chi Han, Qizheng He, Charles Yu, Xinya Du, Hanghang Tong, Heng Ji
지식 그래프에서의 논리적 엔티티 표현: 미분 가능한 규칙 학습을 위한 접근
초록

확률적 논리 규칙 학습은 논리 규칙 탐색 및 지식 그래프 보완에서 큰 강점을 보여왔다. 이 방법은 지식 그래프 내 기존의 간선을 기반으로 추론하여 누락된 간선을 예측하는 논리 규칙을 학습한다. 그러나 기존의 연구들은 주로 $R_1(x,z)\land R_2(z,y)\Rightarrow H(x,y)$와 같은 사슬 형태의 화른 절(Horn clause)에만 국한되어 왔다. 이러한 표현 방식은 엔티티 변수 $x$, $y$, $z$의 이웃 서브그래프로부터 얻을 수 있는 추가적인 맥락 정보를 간과하고 있다. 직관적으로 볼 때, 이는 큰 정보적 격차를 초래한다. 실제로, 국소적인 서브그래프는 지식 그래프 보완에 있어 중요한 정보를 제공한다는 것이 이미 확인된 바 있다. 이러한 관찰에 영감을 받아, 우리는 지식 그래프 내 엔티티의 맥락 정보를 인코딩하기 위한 논리적 엔티티 표현(Logical Entity RePresentation, LERP)을 제안한다. LERP는 엔티티의 이웃 서브그래프에 대한 확률적 논리 함수의 벡터로 구성되며, 해석 가능성을 유지하면서도 미분 가능한 최적화를 가능하게 한다. 이를 통해 확률적 논리 규칙 학습에 LERP를 통합함으로써 더 표현력이 풍부한 규칙을 학습할 수 있다. 실험 결과는 LERP를 도입함으로써 제안 모델이 다른 규칙 학습 방법보다 지식 그래프 보완 성능에서 우수하며, 최첨단의 블랙박스 기반 방법과도 비견되거나 그 이상의 성능을 보임을 보여준다. 더불어, 본 모델이 더 표현력 있는 논리 규칙의 가족을 탐지할 수 있음을 발견하였다. 또한 LERP는 TransE와 같은 임베딩 학습 방법과 결합되어 더욱 해석 가능한 모델로 발전시킬 수 있다.

지식 그래프에서의 논리적 엔티티 표현: 미분 가능한 규칙 학습을 위한 접근 | 최신 연구 논문 | HyperAI초신경