15일 전

CAT: 비동질 그래프의 트리밍을 위한 인과적 그래프 어텐션 네트워크

Silu He, Qinyao Luo, Xinsha Fu, Ling Zhao, Ronghua Du, Haifeng Li
CAT: 비동질 그래프의 트리밍을 위한 인과적 그래프 어텐션 네트워크
초록

그래프 어텐션 네트워크(GATs)에 채택된 로컬 어텐션 안내 메시지 전달 메커니즘(LAMP)은 그래프 내 근접 노드의 중요도를 적응적으로 학습함으로써 보다 효과적인 로컬 집약(aggregation)을 가능하게 하며, 유사한 이웃 노드들의 표현을 효과적으로 가까이 모으는 데 기여함으로써 더 강한 구분 능력을 보여줍니다. 그러나 기존의 GATs는 이질적 그래프(heterophilic graphs)에서 유사한 이웃 노드의 비율이 낮아지면서 중심 노드의 자기 어텐션(self-attention)이 약화되고, 이로 인해 중심 노드의 표현이 유사한 노드들로부터 벗어나는 현상이 발생함에 따라 구분 능력이 크게 저하되는 문제가 있습니다. 본 논문에서는 이러한 이웃 노드에 의해 발생하는 이러한 영향을 '방해 효과(Distraction Effect, DE)'라고 정의합니다. DE를 추정하고 약화하기 위해, 이질적 그래프를 정제하는 인과적 그래프 어텐션 네트워크(CAT)를 제안합니다. DE를 추정하기 위해, DE가 두 가지 경로를 통해 발생한다는 점(이웃 노드에게 할당된 어텐션을 빼앗는 것과 중심 노드의 자기 어텐션을 감소시키는 것)을 고려하여, 간섭 데이터에서 추정 가능한 인과 추정량(causal estimand)인 총 효과(Total Effect)를 사용하여 DE를 모델링합니다. DE를 약화하기 위해, DE가 가장 큰 이웃 노드(즉, 방해 이웃 노드라고 부름)를 식별하고 이를 제거합니다. 제안된 CAT 프레임워크 내에서 세 가지 대표적인 GAT 모델을 기반 모델로 채택하여, 크기가 서로 다른 세 가지 규모의 일곱 개의 이질적 그래프 데이터셋에서 실험을 수행하였습니다. 비교 실험 결과, CAT은 모든 기반 GAT 모델의 노드 분류 정확도를 향상시킴을 확인할 수 있었습니다. 제거 실험(ablation study) 및 시각화 결과를 통해 CAT이 구분 능력을 효과적으로 강화함을 추가로 검증하였습니다. 소스 코드는 https://github.com/GeoX-Lab/CAT 에 공개되어 있습니다.

CAT: 비동질 그래프의 트리밍을 위한 인과적 그래프 어텐션 네트워크 | 최신 연구 논문 | HyperAI초신경