Command Palette

Search for a command to run...

4달 전

라벨이 부족한 노드를 가진 그래프에서의 시각 일관성 있는 이질적 네트워크

{Kun; Wei; Zhan Xiaolin ; Su Zhuolin; Zhang Liao}

초록

라벨 데이터가 매우 적은 그래프에서(각 카테고리당 두 개 또는 세 개의 샘플만 존재) 전도 학습(Transductive Learning)을 수행하는 것은 감독 신호의 부족으로 인해 도전적인 과제이다. 기존의 연구에서는 단일 뷰 모델을 통한 자기지도 학습(Self-supervised Learning)이 이 문제를 해결하는 데 널리 활용되어 왔다. 그러나 최근의 관찰에 따르면, 객체에 대한 다중 뷰 표현은 고차원 특징 공간에서 동일한 의미 정보를 공유하고 있음을 알 수 있다. 본 연구에서는 각 샘플에 대해 이질적인 표현(Heterogeneous Representations)을 생성하고, 뷰 일관성 손실(View-consistency Loss)을 이용하여 서로 다른 뷰 간의 표현이 일관되게 유지되도록 한다. 또한 다중 뷰 표현은 서로 다른 뷰 간의 상호 감독(Mutual Supervision)을 통해 의사 레이블(Pseudo-labels) 생성을 보다 효과적으로 유도할 수 있음을 시사한다. 본 논문에서는 이러한 관점을 바탕으로, 뷰에 무관한 의미 정보를 정렬함으로써 더 나은 표현을 학습하는 뷰 일관성 이질 네트워크(View-consistent Heterogeneous Network, VCHN)를 제안한다. 구체적으로 VCHN은 두 뷰 간의 예측을 제약함으로써 뷰 쌍이 서로를 감독할 수 있도록 설계된다. 또한, 뷰 간 정보를 최대한 활용하기 위해 보다 신뢰도 높은 의사 레이블을 생성할 수 있는 새로운 학습 전략을 제안하며, 이는 VCHN의 예측 성능을 향상시킨다. 세 가지 벤치마크 데이터셋에서 실시한 광범위한 실험 결과를 통해, 본 방법이 매우 낮은 레이블 비율 조건에서도 최신 기술(SOTA) 대비 우수한 성능을 달성함을 입증하였다.

코드 저장소

벤치마크

벤치마크방법론지표
node-classification-on-citeseer-05VCHN
Accuracy: 65.6%
node-classification-on-citeseer-1VCHN
Accuracy: 70.1%
node-classification-on-cora-05VCHN
Accuracy: 74.9%
node-classification-on-cora-1VHCN
Accuracy: 78.1%
node-classification-on-cora-3VCHN
Accuracy: 83.1%
node-classification-on-pubmed-003VCHN
Accuracy: 71.8%
node-classification-on-pubmed-005VCHN
Accuracy: 74.3%
node-classification-on-pubmed-01VCHN
Accuracy: 76.8%

AI로 AI 구축

아이디어에서 출시까지 — 무료 AI 공동 코딩, 즉시 사용 가능한 환경, 최적 가격 GPU로 AI 개발을 가속화하세요.

AI 공동 코딩
즉시 사용 가능한 GPU
최적 가격
시작하기

Hyper Newsletters

최신 정보 구독하기
한국 시간 매주 월요일 오전 9시 에 이번 주의 최신 업데이트를 메일로 발송합니다
이메일 서비스 제공: MailChimp