15일 전

SimMatch: 유사도 매칭을 통한 반감독 학습

Mingkai Zheng, Shan You, Lang Huang, Fei Wang, Chen Qian, Chang Xu
SimMatch: 유사도 매칭을 통한 반감독 학습
초록

라벨이 부족한 데이터로 학습하는 문제는 컴퓨터 비전 및 머신러닝 연구계에서 오랫동안 해결되지 않은 과제였다. 본 논문에서는 의미적 유사성과 인스턴스 수준의 유사성을 동시에 고려하는 새로운 반감독 학습 프레임워크인 SimMatch를 제안한다. SimMatch에서는 일관성 정규화가 의미 수준과 인스턴스 수준 양쪽에 적용된다. 동일한 인스턴스의 다양한 증강된 시각화는 동일한 클래스 예측을 가지도록 유도되며, 다른 인스턴스들과의 유사성 관계 또한 유사하게 유지되도록 한다. 다음으로, 인스턴스 수준에서 진짜 라벨을 최대한 활용하고 의미적 유사성과 인스턴스 유사성 간의 격차를 메우기 위해 라벨된 메모리 버퍼를 도입한다. 마지막으로, 두 유사성 간의 이형적 변환을 가능하게 하는 \textit{전개}(unfolding) 및 \textit{집계}(aggregation) 연산을 제안한다. 이를 통해 의미적 및 인스턴스적 가짜 라벨이 서로 상호 전파되어 더 고품질이고 신뢰할 수 있는 매칭 타겟을 생성할 수 있다. 광범위한 실험 결과는 SimMatch가 다양한 벤치마크 데이터셋과 다양한 설정에서 반감독 학습 작업의 성능을 향상시킴을 보여준다. 특히 400 에포크의 학습을 거친 결과, ImageNet에서 1\% 및 10\%의 라벨된 예시를 사용했을 때 각각 67.2\% 및 74.4\%의 Top-1 정확도를 달성하였으며, 기준 방법들을 크게 능가하고 기존 반감독 학습 프레임워크보다 우수한 성능을 보였다. 코드 및 사전 학습 모델은 https://github.com/KyleZheng1997/simmatch 에서 공개되어 있다.

SimMatch: 유사도 매칭을 통한 반감독 학습 | 최신 연구 논문 | HyperAI초신경