FeTrIL: 예시 미필요 클래스 증분 학습을 위한 특징 번역

예시 없이 수행되는 클래스 증분 학습은 치명적인 망각(catastrophic forgetting)의 부정적인 영향으로 인해 매우 도전적인 과제이다. 과거 클래스와 새로운 클래스 모두에 대해 높은 정확도를 달성하기 위해서는 증분 과정에서 안정성과 유연성 사이의 균형을 유지할 필요가 있다. 기존의 예시 없이 수행되는 클래스 증분 학습 방법들은 either 모델의 지속적인 미세 조정(fine-tuning)에 초점을 맞추어 유연성을 강조하거나, 초기 증분 상태 이후 특징 추출기(feature extractor)를 고정시켜 안정성을 우선시하는 방식을 취하고 있다. 본 연구에서는 고정된 특징 추출기와 가상 특징 생성기(pseudo-features generator)를 결합함으로써 안정성과 유연성의 균형을 향상시키는 새로운 방법을 제안한다. 생성기는 새로운 클래스의 특징을 단순하지만 효과적인 기하학적 변환을 통해 과거 클래스의 표현을 생성하는 가상 특징을 만들어낸다. 이러한 특징 변환은 과거 클래스의 중심 표현(centroid representations)만 저장하면 되므로 메모리 효율성이 높다. 새로운 클래스의 실제 특징과 과거 클래스의 가상 특징을 함께 선형 분류기(linear classifier)에 입력하여, 모든 클래스를 구분할 수 있도록 증분적으로 학습시킨다. 제안한 방법은 전체 딥 모델을 업데이트해야 하는 기존 주류 방법에 비해 증분 과정이 훨씬 빠르다. 다양한 도전적인 데이터셋과 증분 설정에서 실험을 수행한 결과, 기존의 10가지 방법과의 비교에서 본 방법이 대부분의 경우에서 우수한 성능을 보였다.