Triplet Interaction이 그래프 트랜스포머를 개선하다: Triplet 그래프 트랜스포머를 이용한 정확한 분자 그래프 학습

그래프 트랜스포머는 일반적으로 세 번째 차수의 상호작용이 부족하여, 분자 기하학 예측과 같은 작업에 중요한 기하학적 이해가 제한됩니다. 우리는 새로운 트리플트 데이션 및 집계 메커니즘을 통해 노드 3개 쌍 내에서의 쌍 간 직접적인 통신을 가능하게 하는 트리플 그래프 트랜스포머(Triplet Graph Transformer, TGT)를 제안합니다. TGT는 먼저 2D 그래프에서 원자 간 거리를 예측한 후, 이 거리를 하류 작업에 사용하여 분자 특성 예측에 적용됩니다. 새로운 세 단계 훈련 절차와 확률론적 추론은 훈련 효율성을 더욱 개선하고 모델 성능을 향상시킵니다. 우리의 모델은 PCQM4Mv2와 OC20 IS2RE 오픈 도전 벤치마크에서 새로운 최고 수준(SOTA) 결과를 달성하였습니다. 또한 전이 학습을 통해 QM9, MOLPCBA, 그리고 LIT-PCBA 분자 특성 예측 벤치마크에서도 SOTA 결과를 얻었습니다. 우리는 또한 TGT의 일반성을 TSP(Traveling Salesman Problem)에서 SOTA 결과를 통해 입증하였습니다.