18일 전

세부 분류를 위한 다차원 전문가 혼합 학습

{ Dacheng Tao, Wei Liu, Shaoli Huang, Lianbo Zhang}
세부 분류를 위한 다차원 전문가 혼합 학습
초록

세부 인식 문제 공간을 특정한 영역들로 나누는 것을 목표로 한다. 이를 달성하기 위해 전문가의 혼합(mixture of experts) 기반의 통합 프레임워크를 개발하였다. 세부 인식 문제에 사용 가능한 데이터가 제한적이기 때문에, 데이터 분할 전략을 통해 다양한 전문가를 학습하는 것은 현실적으로 불가능하다. 이 문제를 해결하기 위해, 점진적으로 향상되는 학습 전략과 Kullback-Leibler 발산(Kullback-Leibler divergence) 기반 제약 조건을 결합하여 전문가 간의 다양성을 촉진한다. 이 전략은 이전 전문가들의 사전 지식을 바탕으로 새로운 전문가를 데이터셋에서 학습하고, 순차적으로 모델에 추가한다. 동시에 도입된 제약 조건은 전문가들이 서로 다른 예측 분포를 생성하도록 유도한다. 이러한 방식은 전문가들이 서로 다른 측면에서 작업을 학습하도록 유도하여, 각각이 서로 다른 하위 문제 영역에 특화되도록 한다. 실험 결과, 제안된 모델은 분류 성능을 향상시키며, 여러 세부 인식 기준 데이터셋에서 최신 기술(SOTA) 수준의 성능을 달성하였다.

세부 분류를 위한 다차원 전문가 혼합 학습 | 최신 연구 논문 | HyperAI초신경