트랜스포머는 자연어 처리(Natural Language Processing)와 비전(Vision) 분야에서 성능을 혁신적으로 개선하며, 그래프 신경망(Graph Neural Networks, GNNs)과의 통합을 위한 길을 열었습니다. 그래프 트랜스포머를 강화하는 주요 과제 중 하나는 그래프 동형(isomorphisms of graphs)을 구분하는 판별력을 강화하는 것입니다. 이는 그들의 예측 성능을 향상시키는 데 중요한 역할을 합니다. 이러한 과제를 해결하기 위해, 우리는 '위상 정보 기반 그래프 트랜스포머(Topology-Informed Graph Transformer, TIGT)'를 소개합니다. TIGT는 그래프 동형을 감지하는 데 있어 판별력을 향상시키고 전체적인 그래프 트랜스포머의 성능을 개선하는 새로운 트랜스포머입니다.TIGT는 네 가지 구성 요소로 이루어져 있습니다:1. 그래프의 순환 부분그래프(cyclic subgraphs)를 기반으로 한 동형이 아닌 보편 덮개(non-isomorphic universal covers)를 사용하여 고유한 그래프 표현을 보장하는 위상 위치 임베딩 레이어(topological positional embedding layer)2. 인코더 레이어 전반에 걸쳐 위상 특성을 명시적으로 인코딩하기 위한 듀얼 경로 메시지 전달 레이어(dual-path message-passing layer)3. 글로벌 어텐션 메커니즘(global attention mechanism)4. 채널별 그래프 특성을 재조정하여 더 나은 특성 표현을 제공하는 그래프 정보 레이어(graph information layer)TIGT는 그래프 동형 클래스를 구분하기 위한 합성 데이터셋에서 이전의 그래프 트랜스포머보다 우수한 성능을 보였습니다. 또한, 수학적 분석과 경험적 평가를 통해 우리의 모델이 다양한 벤치마크 데이터셋에서 최신의 그래프 트랜스포머들보다 경쟁력 있는 점을 강조하고 있습니다.