클래스당 12 mJ의 온디바이스 온라인 희소 샘플 클래스 증분 학습

소수 샘플 기반 클래스 증분 학습(Few-Shot Class-Incremental Learning, FSCIL)은 기존에 학습한 클래스를 잊지 않으면서, 새로운 클래스에 대한 추론 능력을 소수의 레이블된 예시를 통해 확장할 수 있게 해주는 기계 학습 기법이다. 전통적인 역전파 기반 학습 및 그 변종은 극한 엣지에서 배터리 구동 및 메모리 제약이 심한 시스템에는 적합하지 않은 경우가 많다. 본 연구에서는, 사전 훈련된 메타학습된 특징 추출기와 확장 가능한 명시적 메모리(클래스 프로토타입을 저장)로 구성된 경량화된 모델 기반의 온라인 소수 샘플 기반 클래스 증분 학습(Online Few-Shot Class-Incremental Learning, O-FSCIL)을 제안한다. 이 아키텍처는 새로운 특징 직교성 정규화(regularization)를 통해 사전 훈련되며, 다중 마진 손실(multi-margin loss)을 이용한 메타학습을 통해 최적화된다. 새로운 클래스를 학습할 경우, 본 방법은 명시적 메모리에 새로운 클래스 프로토타입을 추가하면서 나머지 아키텍처는 동결된 상태를 유지한다. 이는 단일 패스(one single pass)로 소수의 예시만으로도 이전에 보지 못한 클래스를 학습할 수 있게 하여, 온라인 학습이 가능하게 한다. O-FSCIL은 FSCIL CIFAR100 벤치마크에서 평균 정확도 68.62%를 달성하며, 현재까지의 최고 성능을 기록했다. 초저전력 플랫폼에 특화된 본 연구에서는, 60mW의 GAP9 마이크로컨트롤러에 O-FSCIL을 구현하여, 새로운 클래스당 단지 12mJ의 에너지 소비로 온라인 학습 기능을 실현함을 보였다.