11일 전

지식 그래프 임베딩을 생성 모델로 전환하는 방법

Lorenzo Loconte, Nicola Di Mauro, Robert Peharz, Antonio Vergari
지식 그래프 임베딩을 생성 모델로 전환하는 방법
초록

링크 예측을 위한 가장 성공적인 지식 그래프 임베딩(KGE) 모델들인 CP, RESCAL, TuckER, ComplEx는 에너지 기반 모델(energy-based models)로 해석될 수 있다. 이러한 관점에서 이 모델들은 정확한 최대우도추정(MLE), 샘플링이 어렵고 논리적 제약 조건을 통합하는 데 어려움을 겪는다. 본 연구는 이러한 KGE 모델들의 점수 함수를 회로(circuits)로 재해석한다. 즉, 효율적인 주변화(marginalisation)를 허용하는 제약 조건이 있는 계산 그래프로 본다. 이를 바탕으로, 활성화를 음이 아닌 값으로 제한하거나 출력값을 제곱하는 두 가지 방법을 통해 효율적인 생성형 회로 모델을 설계한다. 본 연구의 재해석은 링크 예측 성능에 거의 또는 전혀 손실 없이 수행되며, 회로 기반 프레임워크는 정확한 MLE 기반 학습, 새로운 삼중항의 효율적 샘플링, 그리고 논리적 제약 조건이 설계 시점에서 보장된다는 장점을 제공한다. 게다가, 수백만 개의 엔티티를 포함하는 그래프에서 본 모델들은 원래 KGE 모델들보다 더 우수한 스케일링 성능을 보인다.

지식 그래프 임베딩을 생성 모델로 전환하는 방법 | 최신 연구 논문 | HyperAI초신경