심층 거리 측정을 위한 그룹 손실

딥 메트릭 학습은 신경망을 활용하여 높은 구분 능력을 갖춘 특징 임베딩을 얻음으로써 클러스터링 및 이미지 검색과 같은 과제에서 놀라운 성과를 거두었다. 이러한 특징 임베딩은 샘플들을 서로 다른 클래스로 그룹화하는 데 사용될 수 있다. 이러한 네트워크를 학습시키기 위한 지능적인 손실 함수 또는 데이터 마이닝 전략 개발에 많은 연구가 집중되어 왔다. 대부분의 기존 방법은 미니배치 내 샘플의 쌍 또는 트리플릿만을 고려하여 손실 함수를 계산하며, 이는 일반적으로 임베딩 간의 거리에 기반한다. 본 연구에서는 차별 가능한 레이블 전파(differentiable label-propagation) 기반의 새로운 손실 함수인 Group Loss를 제안한다. 이 손실 함수는 그룹 내 모든 샘플 간의 임베딩 유사성을 강제하면서 동시에 서로 다른 그룹에 속한 데이터 포인트들 사이의 낮은 밀도 영역을 촉진한다. ‘유사한 객체는 동일한 그룹에 속해야 한다’는 부드러움 가정(smoothness assumption)을 기반으로, 제안된 손실 함수는 분류 과제를 수행하도록 신경망을 학습시키며, 클래스 내 샘플 간 일관된 레이블링을 강제한다. 여러 데이터셋에서 클러스터링 및 이미지 검색 과제에서 최신 기술 수준의 성능을 입증하였으며, 앙상블과 같은 다른 기법과 결합했을 때의 잠재력을 보여주었다.