깊은 클러스터링을 이용한 시각적 특징의 비지도 학습

클러스터링은 컴퓨터 비전 분야에서 광범위하게 적용되고 연구된 비지도 학습 방법의 한 종류입니다. 그러나 대규모 데이터셋에서 시각적 특징의 엔드투엔드 훈련에 이를 적응시키는 데 대한 연구는 거의 이루어지지 않았습니다. 본 연구에서는 신경망의 매개변수와 그 결과로 얻어진 특징들의 클러스터 할당을 동시에 학습하는 클러스터링 방법인 DeepCluster를 제시합니다. DeepCluster는 표준 클러스터링 알고리즘인 k-means를 사용하여 특징들을 반복적으로 그룹화하고, 그 후의 할당을 감독으로 사용하여 네트워크의 가중치를 업데이트합니다. 우리는 DeepCluster를 ImageNet과 YFCC100M 같은 대규모 데이터셋에서 컨벌루션 신경망의 비지도 훈련에 적용하였습니다. 이로 인해 생성된 모델은 모든 표준 벤치마크에서 현존하는 최고 수준의 성능을 크게 초월하였습니다.