11일 전

SimMatchV2: 그래프 일관성을 활용한 반감독 학습

Mingkai Zheng, Shan You, Lang Huang, Chen Luo, Fei Wang, Chen Qian, Chang Xu
SimMatchV2: 그래프 일관성을 활용한 반감독 학습
초록

반감독 이미지 분류는 컴퓨터 비전 분야에서 가장 핵심적인 문제 중 하나로, 인간의 노동을 크게 줄이는 데 기여한다. 본 논문에서는 레이블이 부여된 데이터와 레이블이 없는 데이터 간의 다양한 일관성 정규화를 그래프 관점에서 재정의하는 새로운 반감독 학습 알고리즘인 SimMatchV2를 제안한다. SimMatchV2에서는 샘플의 증강된 뷰를 노드로 간주하며, 각 노드는 레이블과 해당 표현(representation)으로 구성된다. 서로 다른 노드들은 노드 표현 간의 유사도로 측정되는 엣지(edge)로 연결된다. 그래프 이론에서의 메시지 전달(message passing)과 노드 분류의 아이디어를 영감으로 받아, 네 가지 유형의 일관성—1) 노드-노드 일관성, 2) 노드-엣지 일관성, 3) 엣지-엣지 일관성, 4) 엣지-노드 일관성—을 제안한다. 또한, 단순한 특징 정규화(feature normalization)가 서로 다른 증강 뷰 간의 특징 노름(feature norm) 차이를 줄여주며, SimMatchV2의 성능을 크게 향상시킨다는 점을 밝혀냈다. 제안한 SimMatchV2는 여러 반감독 학습 벤치마크에서 검증되었으며, 특히 ResNet-50을 백본으로 사용하고 300 에포크 동안 학습한 결과, ImageNet에서 레이블이 1%와 10%인 경우 각각 71.9%와 76.2%의 Top-1 정확도를 달성하여 기존 방법들을 크게 능가하며 최신 기술(SOTA) 수준의 성능을 보였다. 코드와 사전 학습된 모델은 다음 링크에서 확인할 수 있다: \href{https://github.com/mingkai-zheng/SimMatchV2}{https://github.com/mingkai-zheng/SimMatchV2}.

SimMatchV2: 그래프 일관성을 활용한 반감독 학습 | 최신 연구 논문 | HyperAI초신경