초록
깊은 신경망을 훈련시키기 위한 데이터 라벨링 작업은 엄청나고 지루하며, 최신 기술 수준의 결과를 얻기 위해서는 수백만 개의 라벨이 필요합니다. 이러한 대규모 라벨링 데이터에 대한 의존성을 완화하기 위해 비지도 학습 기법을 활용하여 계층적 특징을 활용할 수 있습니다. 본 연구에서는 강화된 k-평균 군집화 알고리즘을 기반으로 하는 깊은 합성곱 네트워크를 훈련시키는 방법을 제안합니다. 이 방법은 유사한 필터 형태의 상관 관계가 있는 매개변수 수를 줄여서 테스트 분류 정확도를 향상시킵니다. 우리는 이 알고리즘을 합성곱 k-평균 군집화(Convolutional k-means clustering)라고 명명하였습니다. 또한, 깊은 합성곱 신경망의 계층 간 연결성을 학습함으로써 더 적은 양의 라벨링 데이터로 훈련시키는 능력을 개선할 수 있음을 보였습니다. 실험 결과, 제안된 알고리즘이 비지도 학습으로 필터를 학습하는 다른 기법들보다 우수한 성능을 보임을 확인하였습니다. 특히, STL-10에서 74.1%의 테스트 정확도와 MNIST에서 0.5%의 테스트 오류율을 달성하였습니다.