11일 전

인스턴스 식별과 특징 비상관을 통한 클러스터링 친화적인 표현 학습

Yaling Tao, Kentaro Takagi, Kouta Nakata
인스턴스 식별과 특징 비상관을 통한 클러스터링 친화적인 표현 학습
초록

클러스터링은 머신러닝에서 가장 기초적인 과제 중 하나이다. 최근 들어 딥 클러스터링이 클러스터링 기법의 주요 추세로 부상하고 있다. 딥 클러스터링의 성능에 영향을 미치는 중요한 요소로 표현 학습이 자주 언급되며, 이는 성능 저하의 주요 원인이 될 수 있다. 본 논문에서는 인스턴스 식별(instance discrimination)과 특징 비상관화(feature decorrelation)를 활용한 클러스터링에 유리한 표현 학습 방법을 제안한다. 본 연구에서 제안하는 딥러닝 기반 표현 학습 방법은 고전적 스펙트럴 클러스터링의 성질에 영감을 받았다. 인스턴스 식별은 데이터 간의 유사성을 학습하는 방식이며, 특징 비상관화는 특징 간 중복적인 상관관계를 제거한다. 개별 인스턴스 클래스를 학습함으로써 인스턴스 간의 유사성을 효과적으로 학습할 수 있도록 인스턴스 식별 기법을 활용하였다. 철저한 실험과 분석을 통해 제안된 방법이 클러스터링을 위한 잠재 공간을 학습하는 데 적합함을 입증하였다. 또한, 새로운 소프트맥스 형태의 비상관 제약 조건을 설계하여 표현 학습을 더욱 효과적으로 수행하였다. CIFAR-10과 ImageNet-10을 이용한 이미지 클러스터링 평가에서 본 방법은 각각 81.5% 및 95.4%의 정확도를 달성하였다. 또한, 소프트맥스 기반 제약 조건이 다양한 신경망 아키텍처와 호환됨을 보여주었다.

인스턴스 식별과 특징 비상관을 통한 클러스터링 친화적인 표현 학습 | 최신 연구 논문 | HyperAI초신경