시나리오 독립형 믹스업을 통한 구분력 있는 시각 표현 학습 강화

Mixup는 DNN에 대한 잘 알려진 데이터 종속적 증강 기법으로, 두 가지 하위 작업—mixup 생성과 분류—으로 구성된다. 그러나 최근 주류가 되고 있는 온라인 학습 방식은 mixup를 감독 학습(SL)에 한정하고, 생성 하위 작업의 목적 함수가 전체 데이터 다양체(data manifold)가 아닌 선택된 샘플 쌍에 국한되어 있어, 비의미한 해(Trivial solution)가 발생할 가능성이 있다. 이러한 한계를 극복하기 위해, 본 연구에서는 mixup 생성의 목적 함수를 체계적으로 탐구하고, 감독 학습(SL)과 자기지도 학습(SSL) 모두에 적용 가능한 \textbf{S}cenario-\textbf{A}gnostic \textbf{Mix}up(SAMix)을 제안한다. 구체적으로, 우리는 두 개의 혼합된 클래스 간의 국소적 매끄러움(Local smoothness)을 최적화하면서 다른 클래스들에 대해 전역적 구분성(Global discrimination)을 유지하는 것이 mixup 생성의 목적 함수임을 가정하고 실험적으로 검증한다. 이를 바탕으로 두 하위 목적 함수 간의 보완적 학습을 위한 $η$-균형 mixup 손실 함수를 제안한다. 동시에, 레이블 없이 작동하는 생성 하위 네트워크를 설계하여 비의미한 mixup 샘플을 효과적으로 생성하고, 전이 가능성(Transferability)을 향상시킨다. 더불어, 온라인 학습의 계산 비용을 줄이기 위해 사전 훈련된 버전인 SAMix$^\mathcal{P}$를 도입하여 더 우수한 효율성과 일반화 능력을 달성하였다. SL 및 SSL 기준 9개의 다양한 실험을 통해 SAMix가 기존 방법에 비해 일관된 우수성과 뛰어난 유용성을 입증하였다.