지식 그래프 링크 예측을 위한 Retrieve-and-Read 프레임워크

지식 그래프(KG)의 링크 예측은 기존의 사실들로부터 새로운 사실을 추론하는 것을 목표로 한다. 최근 연구들은 그래프 신경망(GNN)을 통해 노드의 그래프 이웃 정보를 활용할 경우, 단순히 쿼리 정보만을 사용하는 것보다 더 유용한 정보를 제공함을 보여주었다. 기존의 KG 링크 예측을 위한 GNN은 전체 KG에 대해 표준적인 메시지 전달 파라다임을 따르며, 이는 불필요한 계산, 노드 표현의 과도한 평균화(over-smoothing), 그리고 표현력의 제한을 초래한다. 특히 대규모 KG에서는 추론을 위해 전체 KG로부터 유용한 정보를 집계하는 것이 계산적으로 매우 비효율적이다. 기존 KG 링크 예측 프레임워크의 한계를 해결하기 위해, 본 연구에서는 새로운 '검색-읽기(retrieve-and-read)' 프레임워크를 제안한다. 이 프레임워크는 먼저 쿼리에 관련된 하위 그래프 컨텍스트를 검색한 후, 고용량의 리더(reader)를 활용해 쿼리와 컨텍스트를 공동으로 추론한다. 제안 프레임워크의 구현 예로, 그래프 기반 어텐션 구조와 쿼리-컨텍스트 간 크로스 어텐션을 통합한 새로운 트랜스포머 기반 GNN을 리더로 제안한다. 이 간단하지만 효과적인 설계는 모델이 쿼리와 관련된 주목할 만한 컨텍스트 정보에 집중할 수 있도록 한다. 두 가지 표준 KG 링크 예측 데이터셋에 대한 실증 결과는 제안 방법의 경쟁력 있는 성능을 입증한다. 또한, 본 연구의 분석을 통해 프레임워크 내에서 개선된 리트리버를 설계하는 데 유의미한 통찰을 제공한다.