17일 전

MixedTeacher: 텍스처 이상 탐지용 빠른 추론을 위한 지식 증류

Simon Thomine, Hichem Snoussi, Mahmoud Soua
MixedTeacher: 텍스처 이상 탐지용 빠른 추론을 위한 지식 증류
초록

오랜 기간 동안 비지도 학습 기반의 이상 탐지 기법은 이미지 처리 연구의 핵심 주제로 자리 잡아왔으며, 고성능 산업 자동화 프로세스의 기반이 되어왔다. 컨볼루션 신경망(Convolutional Neural Network, CNN)의 등장 이후, 오토인코더(Autoencoder), 적대적 생성 신경망(Generative Adversarial Network, GAN), 심층 특징 추출 등의 다양한 방법들이 제안되었다. 본 논문에서는 기존의 대규모 사전 학습된 네트워크(교사, Teacher)의 출력을 활용하여 정상 샘플에 대해 학습하는 네트워크(학생, Student)를 설계하는, 지식 증류(Knowledge Distillation) 기반의 새로운 방법을 제안한다. 본 연구의 주요 기여는 두 가지 측면에서 이루어진다. 첫째, 최적의 레이어 선택을 통한 최소화된 학생 네트워크 아키텍처를 제안하고, 둘째, 두 개의 교사 네트워크를 결합하여 네트워크 편향을 줄이는 새로운 학생-교사 아키텍처를 제안함으로써 이상 탐지 성능과 이상 위치 정확도를 동시에 향상시킨다. 제안된 텍스처 이상 탐지기는 어떠한 텍스처에서도 결함을 뛰어난 능력으로 탐지할 수 있으며, 기존의 최고 성능(SOTA) 기법들에 비해 빠른 추론 시간을 보인다.

MixedTeacher: 텍스처 이상 탐지용 빠른 추론을 위한 지식 증류 | 최신 연구 논문 | HyperAI초신경