2달 전

AutoSF: 지식 그래프 임베딩을 위한 점수 함수 검색

Yongqi Zhang; Quanming Yao; Wenyuan Dai; Lei Chen
AutoSF: 지식 그래프 임베딩을 위한 점수 함수 검색
초록

지식 그래프(KG)에서 삼중항의 타당성을 측정하는 점수 함수(SFs)는 최근 KG 임베딩의 핵심이 되었습니다. 최근 몇 년 동안 사람들은 다양한 종류의 관계를 포착하기 위해 많은 SFs를 설계해 왔습니다. 그러나, 관계가 복잡한 패턴을 나타낼 수 있고 훈련 전에 추론하기 어려운 경우가 많기 때문에, 어떤 SF도 기존 벤치마크 데이터 세트에서 일관되게 다른 SF보다 우수한 성능을 내지 못하고 있습니다. 본 논문에서는 자동 머신 러닝(AutoML)의 최근 성공 사례에 착안하여, AutoML 기술을 활용하여 서로 다른 KG에 대해 자동으로 SFs를 설계하는 방법(AutoSF)을 제안합니다. 하지만, 이 과정에서 도메인 특유의 정보를 탐색하여 AutoSF를 효율적이고 효과적으로 만드는 것은 쉽지 않습니다. 우리는 먼저 일반적으로 사용되는 SFs에 대한 통합된 표현을 식별하여 AutoSF의 탐색 공간을 설정하는 데 도움을 주었습니다. 그런 다음, 같은 표현 능력을 가진 SFs를 반복적으로 훈련시키는 것을 피하고 모델 훈련 전에 탐색 중 나쁜 후보들을 제거할 수 있는 필터와 예측기를 사용하여 효율적으로 탐색할 수 있는 탐욕 알고리즘을 제안하였습니다. 마지막으로, 우리는 벤치마크 데이터 세트에서 광범위한 실험을 수행하였습니다. 링크 예측과 삼중항 분류 결과는 AutoSF로 찾은 SFs가 KG에 따라 달라지고 문헌에 소개되지 않은 새로운 것들이며, 인간이 설계한 최신 SF들보다 우수한 성능을 내고 있음을 보여주었습니다.

AutoSF: 지식 그래프 임베딩을 위한 점수 함수 검색 | 최신 연구 논문 | HyperAI초신경