2달 전
3D 분자 특성 예측을 위한 간단한 GNN 정규화 및 그 이상
Jonathan Godwin; Michael Schaarschmidt; Alexander Gaunt; Alvaro Sanchez-Gonzalez; Yulia Rubanova; Petar Veličković; James Kirkpatrick; Peter Battaglia

초록
본 논문에서는 간단한 노이즈 정규화가 GNN 오버스무딩 문제를 해결하는 효과적인 방법일 수 있음을 보여줍니다. 첫째, 오버스무딩을 해결하는 정규화 기법은 노드 잠재 유사성을 벌주면서 의미 있는 노드 표현을 촉진해야 한다는 점을 논합니다. 이 관찰을 바탕으로 "노이지 노드(Noisy Nodes)"라는 간단한 기술을 도출하였습니다. 이 기술은 입력 그래프에 노이즈를 추가하여 오염시키고, 노이즈 수정을 위한 노드 수준 손실 함수를 추가합니다. 다양한 노드 수준 손실 함수는 잠재 노드 다양성을 촉진하고, 디노이징 목표는 그래프 매니폴드 학습을 촉진합니다. 우리의 정규화 기법은 간단하고 직관적인 방식으로 잘 연구된 방법들을 적용하여, 일반적인 아키텍처더라도 양자 화학 과제에서 최신 결과를 달성할 수 있으며, Open Graph Benchmark (OGB) 데이터셋에서도 성능을 크게 향상시킵니다. 우리의 결과는 "노이지 노드"가 GNN 툴킷의 보완적 구성 요소로 활용될 수 있음을 시사합니다.