NAPA-VQ: 벡터 양자화를 활용한 이웃 인식 프로토타입 증강 기법의 지속 학습

재난적 잊음(catastrophic forgetting); 새로운 지식을 습득하면서 이전의 지식을 잃는 현상은 실제 응용 프로그램에서 깊은 신경망이 직면하는 함정입니다. 이 문제를 해결하기 위한 많은 기존 방법들은 예시 데이터(exemplars, 이전에 만났던 데이터)를 저장하는 데 의존하지만, 메모리 제한이나 개인 정보 보호 요구 사항이 있는 응용 프로그램에서는 이러한 접근 방식이 실현 가능하지 않을 수 있습니다. 따라서 최근 연구의 초점은 과거 예시 데이터를 사용하지 않고 새로운 클래스에 대해 점진적으로 학습하는 비예시 기반 클래스 증가 학습(Non-Exemplar based Class Incremental Learning, NECIL)에 맞춰져 있습니다. 그러나 이전 데이터가 부족하기 때문에, NECIL 방법들은 이전과 새로운 클래스 사이의 구분을 어려워하며, 그 특징 표현들이 겹치는 경향이 있습니다. 우리는 이러한 클래스 중복을 줄이는 NECIL에서 사용할 수 있는 NAPA-VQ: Neighborhood Aware Prototype Augmentation with Vector Quantization(이웃 인식 프로토타입 강화 및 벡터 양자화) 프레임워크를 제안합니다. 우리는 신경 가스(Neural Gas)에서 영감을 받아 특징 공간에서 위상 관계를 학습하여 서로 혼동되기 쉬운 이웃 클래스들을 식별합니다. 이 이웃 정보는 이웃 클래스들 간의 강한 분리를 강제하고, 또한 이전 클래스 대표 프로토타입을 생성하여 이전과 새로운 클래스 사이의 차별적인 결정 경계를 획득하는 데 더 효과적으로 도움을 줍니다. 우리의 포괄적인 실험 결과는 CIFAR-100, TinyImageNet, 그리고 ImageNet-Subset에서 NAPA-VQ가 최신 NECIL 방법들보다 평균 5%, 2%, 4%의 정확도 향상과 10%, 3%, 9%의 잊음 감소를 통해 우수한 성능을 보임을 입증합니다. 우리의 코드는 https://github.com/TamashaM/NAPA-VQ.git 에서 확인할 수 있습니다.