2달 전

gaussian mixture variational autoencoders를 이용한 깊은 비지도 클러스터링

Nat Dilokthanakul; Pedro A.M. Mediano; Marta Garnelo; Matthew C.H. Lee; Hugh Salimbeni; Kai Arulkumaran; Murray Shanahan
gaussian mixture variational autoencoders를 이용한 깊은 비지도 클러스터링
초록

우리는 가우시안 혼합 분포를 사전 분포로 사용하는 변분 오토인코더 모델(VAE)의 변형을 연구합니다. 이 연구의 목표는 깊은 생성 모델을 통해 비지도 클러스터링을 수행하는 것입니다. 우리는 일반 VAE에서 나타나는 과정규제(over-regularisation) 문제가 우리의 모델에서도 발생하여 클러스터 퇴화(cluster degeneracy)를 초래함을 관찰하였습니다. 우리는 이 문제를 완화할 수 있는 최소 정보 제약(minimum information constraint)이라는 휴리스틱이 VAE에서 효과적이었음을 보여주며, 이를 적용하여 우리의 모델에서 비지도 클러스터링 성능을 개선할 수 있음을 입증하였습니다. 또한, 이 휴리스틱의 영향을 분석하고 시각화를 통해 다양한 과정에 대한 직관을 제공합니다. 마지막으로, 합성 데이터, MNIST 및 SVHN에서 우리의 모델 성능을 시연하며, 얻어진 클러스터가 명확하고 해석 가능하며 비지도 클러스터링에서 최신 결과와 경쟁력을 갖춘 성능을 달성하였음을 보여줍니다.

gaussian mixture variational autoencoders를 이용한 깊은 비지도 클러스터링 | 최신 연구 논문 | HyperAI초신경