17일 전

확장 가능한 증분 확률적 주성분 분석을 통한 학습

{Adrian Barbu, Boshi Wang}
확장 가능한 증분 확률적 주성분 분석을 통한 학습
초록

증분 클래스 학습은 새로운 객체 클래스의 인스턴스가 순차적으로 추가되는 상황에서 모델을 학습하는 분류 문제로, 기존 클래스에 대한 재학습을 최소화하면서 새로운 클래스에만 재학습이 이루어지기를 원하는 것이 목적이다.증분 클래스 학습의 주요 과제 중 하나는 치명적인 망각(catastrophic forgetting) 문제로, 업데이트된 모델이 기존 클래스의 지식을 잊고 오직 새로운 클래스에만 집중하게 되는 현상이다.본 논문은 자기지도(pretrained) 특징 추출기를 활용하여 의미 있는 특징을 추출하고, 각 클래스별로 별도로 확률적 주성분 분석(Probabilistic PCA) 모델을 학습하는 간단하고 새로운 증분 클래스 학습 방법을 제안한다.분류 결과는 마할라노비스 거리(Mahalanobis distance)를 이용하여 도출되며, 계산 비용을 줄이기 위해 이를 효율적으로 계산할 수 있는 등가 식을 도출하였다.표준 및 대규모 데이터셋에서의 실험 결과, 제안하는 방법이 기존 최고 수준의 증분 학습 기법들을 크게 능가함을 보였다.각 클래스별로 별도로 학습이 이루어진다는 점에서, 이미지넷(ImageNet)과 같이 10,000개 이상의 클래스를 포함하는 매우 큰 데이터셋에서도 효과적으로 적용 가능하다는 장점이 있다.

확장 가능한 증분 확률적 주성분 분석을 통한 학습 | 최신 연구 논문 | HyperAI초신경