15일 전

상호 교수를 통한 그래프 컨볼루션 네트워크

Kun Zhan, Chaoxi Niu
상호 교수를 통한 그래프 컨볼루션 네트워크
초록

그래프 컨볼루션 네트워크는 전도성 레이블 전파(Transductive label propagation)의 특성 덕분에 레이블이 지정되지 않은 샘플에 대해 우수한 예측 성능을 보입니다. 각 샘플의 예측 신뢰도가 다르기 때문에, 높은 신뢰도를 가진 예측 결과를 가짜 레이블(pseudo labels)로 활용하여 레이블 집합을 확장함으로써 모델 업데이트를 위한 더 많은 샘플을 선택합니다. 본 연구에서는 새로운 학습 방법인 상호 교육(Mutual Teaching)을 제안합니다. 즉, 두 개의 모델을 동시에 학습시키고, 각 배치마다 서로를 가르치도록 합니다. 먼저, 각 네트워크는 모든 샘플에 대해 순전파를 수행하고, 높은 신뢰도를 가진 예측을 가진 샘플을 선별합니다. 이후, 각 모델은 상대 네트워크가 선별한 샘플을 이용해 업데이트됩니다. 높은 신뢰도 예측을 유용한 지식으로 간주하며, 이러한 지식은 각 배치마다 모델 업데이트를 통해 상대 네트워크에 전달됩니다. 상호 교육에서는 한 네트워크의 가짜 레이블 집합이 상대 네트워크의 예측 결과에서 유래합니다. 새로운 네트워크 학습 전략을 도입함으로써 성능이 크게 향상되었으며, 광범위한 실험 결과를 통해 제안한 방법이 매우 낮은 레이블 비율 조건에서도 최신 기법들에 비해 우수한 성능을 달성함을 입증하였습니다.

상호 교수를 통한 그래프 컨볼루션 네트워크 | 최신 연구 논문 | HyperAI초신경