9일 전

ACE: One-Shot에서 긴 꼬리 인식을 해결하기 위한 동맹 보완 전문가

Jiarui Cai, Yizhou Wang, Jenq-Neng Hwang
ACE: One-Shot에서 긴 꼬리 인식을 해결하기 위한 동맹 보완 전문가
초록

일단계형 긴 꼬리 인식 방법은 '와이어' 방식으로 전체 성능을 향상시키며, 이는 머리 부분의 정확도를 희생하여 꼬리 부분의 분류 성능을 높이거나, 머리 부분의 정확도를 더 높이되 꼬리 부분은 무시하는 형태로 나타난다. 기존 알고리즘은 불균형한 데이터셋에서 사전 훈련하고 균형 잡힌 데이터셋에서 미세 조정하는 다단계 훈련 과정을 통해 이러한 트레이드오프를 회피한다. 비록 희망적인 성능을 달성하지만, 사전 훈련된 모델의 일반화 능력에 민감하며, 분류기만 사전 훈련이 가능한 검출 또는 세그멘테이션과 같은 다른 컴퓨터 비전 작업에 쉽게 통합되지 않는다는 한계가 있다. 본 논문에서는 전문가가 특정 하위 집합에서 주도적으로 학습되며, 드문 카테고리에서는 다른 전문가들과 보완적인 역할을 수행하면서도 본인이 본 적 없는 정보에 영향받지 않는 특성을 가진, 하나의 단계에서 작동하는 긴 꼬리 인식 방식인 '보완적 전문가 동원(Ally Complementary Experts, ACE)'을 제안한다. 각 전문가의 학습 속도를 조절하여 과적합을 방지하기 위해 분포 적응형 최적화기를 설계하였다. 특별한 기법 없이도, 기본형 ACE는 CIFAR10-LT, CIFAR100-LT, ImageNet-LT 및 iNaturalist 데이터셋에서 현재의 일단계 최상위(SOTA) 방법보다 3~10% 높은 성능을 달성하였다. 또한, 단일 단계에서 다수 및 소수 클래스의 정확도를 동시에 향상시켜 '와이어' 트레이드오프를 처음으로 극복한 방법임을 입증하였다. 코드와 학습된 모델은 https://github.com/jrcai/ACE 에서 확인할 수 있다.

ACE: One-Shot에서 긴 꼬리 인식을 해결하기 위한 동맹 보완 전문가 | 최신 연구 논문 | HyperAI초신경