16일 전

지식 그래프 임베딩을 위한 관계 인식 기반 앙상블 학습

Ling Yue, Yongqi Zhang, Quanming Yao, Yong Li, Xian Wu, Ziheng Zhang, Zhenxi Lin, Yefeng Zheng
지식 그래프 임베딩을 위한 관계 인식 기반 앙상블 학습
초록

지식 그래프(KG) 임베딩은 자연어 처리 분야에서 핵심적인 과제이며, 다양한 방법들이 의미적 패턴을 독창적인 방식으로 탐구하기 위해 제안되어 왔다. 본 논문에서는 기존 방법들을 관계 인지적(relationship-aware) 방식으로 활용하여 앙상블을 학습하는 방법을 제안한다. 그러나 관계 인지적 앙상블을 사용하여 이러한 의미 구조를 탐색할 경우, 일반적인 앙상블 방법보다 훨씬 더 큰 탐색 공간이 발생한다. 이 문제를 해결하기 위해, 관계별로 독립적으로 앙상블 가중치를 탐색하는 분할-탐색-결합(division-search-combine) 알고리즘인 RelEns-DSC를 제안한다. 이 알고리즘은 일반적인 앙상블 방법과 동일한 계산 비용을 가지되, 훨씬 우수한 성능을 달성한다. 기준 데이터셋에 대한 실험 결과는 제안된 방법이 관계 인지적 앙상블 가중치를 효율적으로 탐색하고 최신 기술 수준의 임베딩 성능을 달성함을 입증한다. 코드는 https://github.com/LARS-research/RelEns 에 공개되어 있다.

지식 그래프 임베딩을 위한 관계 인식 기반 앙상블 학습 | 최신 연구 논문 | HyperAI초신경