2달 전

과도선형 함의 원뿔을 이용한 계층적 임베딩 학습

Octavian-Eugen Ganea; Gary Bécigneul; Thomas Hofmann
과도선형 함의 원뿔을 이용한 계층적 임베딩 학습
초록

네트워크의 관련 속성을 보존하면서 저차원 임베딩을 통해 그래프 표현을 학습하는 것은 기계 학습에서 중요한 문제 클래스입니다. 여기에서는 방향성 없는 순환 그래프를 임베딩하는 새로운 방법을 제시합니다. 이전 연구에 따르면, 먼저 쌍곡 공간을 사용하여 트리 구조를 유클리드 기하보다 더 잘 모델링할 수 있다는 점을 주장합니다. 두 번째로, 계층적 관계를 중첩된 측지선 볼록 원뿔(geodesically convex cones)으로 정의된 부분 순서(partial orders)로 간주합니다. 우리는 이러한 포함 원뿔(entailment cones)이 유클리드 공간과 쌍곡 공간 모두에서 최적의 형태를 가지며, 폐형식(closed form)으로 표현될 수 있음을 증명하였습니다. 또한 이러한 원뿔은 임베딩 학습 과정을 표준적으로 정의합니다. 실험 결과는 우리의 방법이 최근 강력한 기준 모델들에 비해 표현 능력과 일반화 성능 면에서 상당한 개선을 보였습니다.

과도선형 함의 원뿔을 이용한 계층적 임베딩 학습 | 최신 연구 논문 | HyperAI초신경