16일 전

불변성과 일관성: 소수 샘플 시각 인식을 위한 비지도 표현 학습

{Jia Li, Yifan Zhao, Heng Wu}
초록

소수 샘플 시각 인식은 기존의 기반 클래스로부터 일반화된 사전 지식을 학습하면서, 레이블이 거의 없는 새로운 미관측 클래스를 식별하는 것을 목표로 한다. 최근의 연구들은 이러한 문제를 레이블이 전혀 없는 비지도 학습 설정에서 탐구하려는 접근을 제안하고 있으며, 이는 수동 레이블링의 막대한 비용을 줄이는 데 기여한다. 본 논문에서는 자가지도 학습의 통찰을 기반으로, 소수 샘플 인식 과제를 위한 새로운 비지도 학습 방법을 제안한다. 이 방법은 불변성(Invariant)과 일관성(Consistent)을 동시에 학습하는 InCo(Invariant and Consistent) 표현을 도입한다. 불변 표현을 구현하기 위해, 각 인스턴스의 회전 예측을 구성하는 기하학적 불변성 모듈을 제안하며, 이는 인스턴스 내부의 변동성을 학습함으로써 특징의 구분 능력을 향상시킨다. 또한 인스턴스 간 일관성 표현을 강화하기 위해, 두 가지 대조 학습 관점에서 구성된 쌍별 일관성 모듈을 제안한다. 첫째, 이전 학습 큐를 활용한 전반적 대조 학습이고, 둘째, 현재 학습 샘플의 표현을 강화하기 위한 국소적 대조 학습이다. 더불어, 특징 간 대조 학습을 보다 효과적으로 수행하기 위해, 비대칭 컨볼루션 아키텍처를 도입하여 고품질의 표현을 인코딩한다. 공개된 4개의 기준 데이터셋에서 수행된 종합적인 실험 결과는 제안된 방법의 유용성과 기존 방법들에 비한 우수성을 입증한다.

불변성과 일관성: 소수 샘플 시각 인식을 위한 비지도 표현 학습 | 최신 연구 논문 | HyperAI초신경