초록
우리는 매우 빠른 훈련과 낮은 구현 복잡성을 가능하게 하는 신경망 아키텍처와 훈련 방법을 제시합니다. 이 방법은 훈련 속도가 빠르고 조정 가능한 매개변수가 매우 적기 때문에, 자주 재훈련이 필요하거나 온라인 훈련이 요구되는 응용 분야에서 큰 잠재력을 가지고 있습니다. 이 접근 방식의 특징은 (a) 생물학적으로 영감을 받은 시각 처리 필터를 기반으로 하는 컨벌루션 필터, (b) 무작위 값의 분류 단계 입력 가중치, (c) 최소 제곱 회귀를 사용하여 분류기 출력 가중치를 단일 배치에서 훈련시키는 것, 그리고 (d) 선형 분류 단계 출력 유닛입니다. 우리는 이 방법의 효과를 이미지 분류에 적용함으로써 입증합니다. 우리의 결과는 MNIST(0.37% 오차)와 NORB-small(2.2% 오차) 이미지 분류 데이터베이스에서 기존 최신 결과와 일치하지만, 표준 딥 네트워크 접근 방식과 비교해 매우 빠른 훈련 시간을 보입니다. 또한 Google Street View House Number(SVHN)(4% 오차) 데이터베이스에서의 네트워크 성능도 최신 방법들과 경쟁력이 있습니다.