2달 전

빠르고 유연한 다중 작업 분류를 위한 조건부 신경 적응 프로세스 활용

James Requeima; Jonathan Gordon; John Bronskill; Sebastian Nowozin; Richard E. Turner
빠르고 유연한 다중 작업 분류를 위한 조건부 신경 적응 프로세스 활용
초록

본 논문의 목표는 초기 다중 작업 학습 단계 이후 테스트 시에 새로 만나게 되는 작업에 자동으로 적응할 수 있는 이미지 분류 시스템을 설계하는 것입니다. 이를 위해 다중 작업 분류 환경에서 조건부 신경 프로세스 기반 접근 방식을 소개하고, 메타-러닝과 소수 샷 러닝 문헌과의 연결을 설정합니다. 이로 인해 생성된 접근 방식인 CNAPs(Conditional Neural Adaptive Processes)는 현재 작업의 데이터셋을 입력으로 받는 적응 네트워크에 의해 매개변수를 조절하는 분류기로 구성됩니다. 우리는 CNAPs가 도전적인 Meta-Dataset 벤치마크에서 최고 수준의 결과를 달성하여 고품질의 전이 학습을 보여주며, 이 접근 방식이 저샷 환경에서는 과적합을 피하고 고샷 환경에서는 미적합을 피하는 등 강건성을 갖추고 있음을 입증하였습니다. 시간 측정 실험은 CNAPs가 그래디언트 기반 적응 과정이 포함되지 않아 테스트 시에 계산적으로 효율적임을 밝혔습니다. 마지막으로, 우리는 훈련된 모델들이 지속 학습과 능동 학습에 즉시 배포될 수 있으며, 전이 학습을 활용하지 않는 기존 접근 방식들보다 우수한 성능을 발휘할 수 있음을 보여주었습니다.