깊은 클러스터링: 합성곱 오토인코더 임베딩과 상대 엔트로피 최소화를 통한 방법

이미지 클러스터링은 컴퓨터 비전의 가장 중요한 응용 분야 중 하나로, 문헌에서 광범위하게 연구되어 왔습니다. 그러나 현재의 클러스터링 방법들은 대규모 및 고차원 데이터를 처리할 때 효율성과 확장성 부족 문제에 직면해 있습니다. 본 논문에서는 이러한 문제를 해결하기 위해 DEeP Embedded RegularIzed ClusTering (DEPICT)이라는 새로운 클러스터링 모델을 제안합니다. DEPICT는 데이터를 판별적 임베딩 하위 공간으로 효과적으로 매핑하고 클러스터 할당을 정확히 예측하는 모델입니다. DEPICT는 일반적으로 다층 컨볼루션 오토인코더 위에 스택된 다항 로지스틱 회귀 함수로 구성됩니다. 우리는 클러스터 할당 빈도에 대한 사전 확률을 정규화 항으로 사용하여 상대 엔트로피(KL 발산) 최소화를 통해 클러스터링 목적 함수를 정의합니다. 그런 다음, 파라미터 업데이트와 클러스터 할당 추정을 통해 목적 함수를 최적화하는 교대 전략을 도출합니다. 또한, 오버피팅 방지를 위해 오토인코더에서 재구성 손실 함수를 데이터 종속 정규화 항으로 활용합니다. 계층별 사전 학습의 필요성을 제거하고 단일 경로 최적화의 이점을 얻기 위해, 통합된 클러스터링 및 재구성 손실 함수를 동시에 최소화하며 모든 네트워크 계층을 동시에 학습시키는 공동 학습 프레임워크를 소개합니다. 실험 결과, DEPICT가 실제 클러스터링 작업에서 우수한 성능과 더 빠른 실행 시간을 보이는 것으로 나타났으며, 하이퍼파라미터 조정에 사용할 수 있는 라벨된 데이터가 없는 환경에서도 이를 입증하였습니다.