11일 전

EnAET: 앙상블 변환을 활용한 반감독 및 감독 학습을 위한 자체 학습 프레임워크

Xiao Wang, Daisuke Kihara, Jiebo Luo, Guo-Jun Qi
EnAET: 앙상블 변환을 활용한 반감독 및 감독 학습을 위한 자체 학습 프레임워크
초록

딥 신경망은 다양한 실-world 응용 분야에서 성공적으로 활용되어 왔다. 그러나 이러한 성공은 얻기 위해 비용이 많이 드는 대량의 레이블 데이터에 크게 의존하고 있다. 최근에는 반감독 학습(semi-supervised learning)을 위한 여러 방법이 제안되었으며, 뛰어난 성능을 달성하고 있다. 본 연구에서는 기존 반감독 학습 방법의 성능을 자가지도(self-supervised) 정보를 활용하여 더욱 향상시키기 위한 새로운 EnAET 프레임워크를 제안한다. 우리 지식에 따르면, 현재까지 제안된 모든 반감독 학습 방법은 예측 일관성(prediction consistency)과 신뢰도(confidence) 개념을 통해 성능을 향상시키고 있다. 본 연구는 풍부한 변환(transformations) 가족 하에서 반감독 학습 환경에서 {\bf 자가지도} 표현의 역할을 처음으로 탐구한 것이다. 따라서 본 프레임워크는 자가지도 정보를 정규화(regularization) 항으로 통합함으로써, 현재 존재하는 {\it 모든} 반감독 학습 방법의 성능을 더욱 향상시킬 수 있다. 실험에서는 반감독 학습 분야에서 현재 최고 성능을 보이는 MixMatch를 기준 모델로 삼아 제안된 EnAET 프레임워크의 성능을 평가하였다. 다양한 데이터셋에서 동일한 하이퍼파라미터를 사용함으로써, EnAET 프레임워크의 일반화 능력이 크게 향상되었다. 다양한 데이터셋에 대한 실험 결과는 제안된 EnAET 프레임워크가 현재의 반감독 학습 알고리즘 성능을 크게 향상시킨다는 것을 입증한다. 더불어 이 프레임워크는 클래스당 단지 10장의 이미지만을 사용하는 매우 도전적인 상황을 포함한 {\bf 감독 학습}에서도 큰 성능 향상을 이끌어낼 수 있다. 코드 및 실험 기록은 \url{https://github.com/maple-research-lab/EnAET}에서 확인할 수 있다.

EnAET: 앙상블 변환을 활용한 반감독 및 감독 학습을 위한 자체 학습 프레임워크 | 최신 연구 논문 | HyperAI초신경