9일 전

테스트 무관(long-tailed) 인식을 위한 다양한 전문가의 자기지도 학습적 집계

Yifan Zhang, Bryan Hooi, Lanqing Hong, Jiashi Feng
테스트 무관(long-tailed) 인식을 위한 다양한 전문가의 자기지도 학습적 집계
초록

기존의 긴 꼬리 인식 방법들은 긴 꼬리 데이터로부터 클래스 균형 모델을 학습하는 것을 목표로 하며, 일반적으로 모델이 균일한 테스트 클래스 분포에서 평가될 것이라고 가정한다. 그러나 실제 테스트 클래스 분포는 이 가정을 종종 위반한다(예: 긴 꼬리 또는 역방향 긴 꼬리 분포). 이러한 상황은 기존 방법이 실제 응용에서 실패할 수 있음을 의미한다. 본 논문에서는 더 실용적이지만 도전적인 과제인 '테스트 무지(long-tailed recognition)'을 탐구한다. 이 과제는 학습 데이터의 클래스 분포가 긴 꼬리형이지만, 테스트 데이터의 클래스 분포는 알 수 없으며 반드시 균일할 필요는 없다는 점이 특징이다. 클래스 불균형 문제 외에도, 본 과제는 학습 데이터와 테스트 데이터 간의 클래스 분포 변화가 미지라는 추가적인 도전 과제를 제기한다. 이 과제를 해결하기 위해, 우리는 새로운 접근법인 '자기지도적 다양한 전문가 집약(Self-supervised Aggregation of Diverse Experts, SADE)'을 제안한다. 이 방법은 두 가지 전략으로 구성된다: (i) 단일하고 고정된 긴 꼬리 데이터셋에서 여러 전문가를 학습하는 새로운 스킬 다양성 전문가 학습 전략으로, 각 전문가는 서로 다른 클래스 분포를 별도로 처리할 수 있도록 설계된다; (ii) 테스트 시점에서의 새로운 전문가 집약 전략으로, 자기지도 학습을 활용하여 학습된 다수의 전문가를 통합하여 미지의 테스트 클래스 분포를 처리한다. 이론적으로, 우리의 자기지도 전략이 테스트 무지 클래스 분포를 효과적으로 시뮬레이션할 수 있음을 입증한다. 풍부한 실험 결과는 본 방법이 일반적인 긴 꼬리 인식과 테스트 무지 긴 꼬리 인식 모두에서 뛰어난 성능을 보임을 보여준다. 코드는 \url{https://github.com/Vanint/SADE-AgnosticLT}에서 공개되어 있다.