Neural Sheaf Diffusion: GNNs에서의 이질성과 과평활화에 대한 위상학적 관점

셀룰러 시프(cellular sheaves)는 그래프에 기하학적 구조를 부여하여 노드와 엣지에 벡터 공간과 선형 사상(linear maps)을 할당합니다. 그래프 신경망(Graph Neural Networks, GNNs)은 임의의 시프가 자명(trivial)한 그래프를 암시적으로 가정합니다. 이 선택은 그래프 라플라시안 연산자의 구조, 관련 확산 방정식의 성질, 그리고 이 방정식을 이산화하는 합성곱 모델의 특성에 반영됩니다. 본 논문에서는 셀룰러 시프 이론을 사용하여 그래프의 기저 기하학이 혼합적(heterophilic) 환경에서 GNNs의 성능과 과도한 평활화(oversmoothing) 행동 사이에 깊은 연관성이 있음을 보입니다. 점점 일반적인 시프들의 계층을 고려함으로써, 시프 확산 과정이 무한 시간 한계에서 클래스들을 선형으로 분리할 수 있는 능력이 어떻게 확장되는지를 연구합니다. 동시에, 우리는 시프가 자명하지 않은 경우, 이산화된 매개변수 확산 과정이 GNNs보다 그 점근(asymptotic) 행동에 대해 더 큰 제어력을 갖음을 증명합니다. 실용적인 측면에서는 데이터로부터 시프를 학습하는 방법을 연구합니다. 결과적으로 얻어진 시프 확산 모델들은 전통적인 그래프 확산 방정식(및 해당 GNN 모델)의 제약사항을 해결하면서 많은 바람직한 특성을 가지고 있으며, 혼합적 환경에서 경쟁력 있는 결과를 얻습니다. 전체적으로 우리의 연구는 GNNs와 대수 위상수학(algebraic topology) 사이에 새로운 연결성을 제공하며, 두 분야 모두에게 관심을 끌 것입니다.