초록
이 논문에서는 깊은 신경망의 일반화 능력을 향상시키면서 동시에 학습된 표현의 해석 가능성을 유지하는 것을 목표로 한다. 이를 위해 우리는 단순한 표현(sparse representation)을 장려하는 클러스터링 기반 정규화 기법을 제안한다. 제안하는 k-means 유사 목적함수는 최적화가 용이하고, 샘플 클러스터링, 공간 클러스터링, 그리고 공통 클러스터링(co-clustering)을 포함한 다양한 형태의 클러스터링을 지원하는 유연성을 갖는다. 제안한 방법의 효과성을 비지도 학습, 분류, 세분화된 카테고리 분류, 제로샷 학습 등의 다양한 과제에서 실험을 통해 입증하였다.