10일 전

사전 관점에서 긴 꼬리 시각 인식을 위한 보정된 모델 방향

Zhengzhuo Xu, Zenghao Chai, Chun Yuan
사전 관점에서 긴 꼬리 시각 인식을 위한 보정된 모델 방향
초록

실세계 데이터는 일반적으로 심각한 클래스 불균형 문제를 겪으며, 긴 꼬리 분포(long-tailed distribution)를 나타내는데, 이는 대부분의 레이블이 제한된 샘플에만 해당됨을 의미한다. 이러한 데이터로 학습된 단순한 모델은 우세한 레이블을 선호하게 되고, 일반화 능력에 심각한 도전에 직면하며, 정확도가 낮은 캘리브레이션(calibration)을 보이게 된다. 우리는 사전 분포(prior perspective)의 관점에서 이 문제를 완화하기 위한 두 가지 새로운 방법을 제안한다. 첫째, 소수 클래스에 유리하도록 고급 혼합 요소(mixing factor)와 샘플러를 도입한 균형 중심의 데이터 증강 기법인 Uniform Mixup(uniMix)을 도출하여 긴 꼬리 환경에서의 Mixup 성능을 향상시켰다. 둘째, 베이지안 이론에 기반하여 사전 분포의 불일치로 인해 발생하는 본질적인 편향인 베이즈 편향(Bayes Bias, Bayias)을 규명하고, 기존 크로스 엔트로피 손실에 이를 보정하는 수정 방식을 제안하였다. 또한, 제안된 두 가지 방법이 이론적으로도 실험적으로도 분류 캘리브레이션을 보장함을 입증하였다. 광범위한 실험을 통해 제안 전략이 더 나은 캘리브레이션을 갖춘 모델을 생성함을 확인하였으며, 두 방법의 결합은 CIFAR-LT, ImageNet-LT, iNaturalist 2018에서 최신 기준(SOTA) 성능을 달성하였다.