2달 전

그래프에서 점프 지식 네트워크를 이용한 표현 학습

Keyulu Xu; Chengtao Li; Yonglong Tian; Tomohiro Sonobe; Ken-ichi Kawarabayashi; Stefanie Jegelka
그래프에서 점프 지식 네트워크를 이용한 표현 학습
초록

최근 그래프에서의 표현 학습을 위한 딥 러닝 접근 방식은 이웃 집계 절차를 따릅니다. 본 연구에서는 이러한 모델들의 중요한 특성을 분석하고, 이를 극복하기 위한 전략을 제안합니다. 특히, 노드의 표현이 참조하는 '이웃' 노드의 범위는 그래프 구조에 크게 의존하며, 이는 랜덤 워크(random walk)의 확산과 유사합니다. 로컬 이웃 특성과 작업에 적응하기 위해, 우리는 각 노드가 구조 인식 표현을 개선할 수 있도록 다양한 이웃 범위를 유연하게 활용하는 아키텍처인 점프 지식(jumping knowledge, JK) 네트워크를 탐구합니다. 소셜 네트워크, 바이오인포메틱스 및 인용 네트워크 등 여러 실험에서 우리의 모델이 최신 성능을 달성함을 보여주며, 또한 JK 프레임워크를 그래프 컨볼루션 네트워크(Graph Convolutional Networks), GraphSAGE 및 그래프 어텐션 네트워크(Graph Attention Networks)와 결합하면 이러한 모델들의 성능이 일관되게 향상됨을 입증합니다.

그래프에서 점프 지식 네트워크를 이용한 표현 학습 | 최신 연구 논문 | HyperAI초신경