17일 전

DAS: 깊이 있는 거리 학습을 위한 밀집형 앵커 샘플링

Lizhao Liu, Shangxin Huang, Zhuangwei Zhuang, Ran Yang, Mingkui Tan, Yaowei Wang
DAS: 깊이 있는 거리 학습을 위한 밀집형 앵커 샘플링
초록

딥 메트릭 학습(Depth Metric Learning, DML)은 의미적으로 유사한 데이터를 임베딩 공간 내에서 가까운 위치로 매핑하기 위한 임베딩 함수를 학습하는 기술로, 이미지 검색 및 얼굴 인식과 같은 다양한 응용 분야에서 핵심적인 역할을 한다. 그러나 DML 기법의 성능은 일반적으로 학습 과정에서 임베딩 공간 내에서 효과적인 데이터를 선택하기 위한 샘플링 방법에 크게 의존한다. 실질적으로 임베딩 공간 내의 임베딩은 특정 딥 모델을 통해 얻어지며, 학습 데이터 포인트가 부족한 영역(빈 공간, barren area)이 존재함으로써 '누락된 임베딩(missing embedding)' 문제를 초래하게 된다. 이 문제는 샘플 품질을 저하시켜 DML 성능이 저하되는 원인이 된다. 본 연구에서는 이러한 '누락된 임베딩' 문제를 완화함으로써 샘플링 품질을 향상시키고, 효과적인 DML를 달성하는 방법을 탐구한다. 이를 위해 우리는 데이터 포인트와 대응하는 임베딩을 '앵커(anchor)'로 간주하고, 앵커 주변의 임베딩 공간을 밀집하게 활용하여 데이터 포인트가 없는 영역에도 임베딩을 생성하는 Densely-Anchored Sampling (DAS) 기법을 제안한다. 구체적으로, 단일 앵커 주변의 임베딩 공간은 구분 능력 있는 특성 스케일링(Discriminative Feature Scaling, DFS)을 통해, 다중 앵커의 경우는 기억된 변환 이동(Memorized Transformation Shifting, MTS)을 활용하여 효과적으로 확장한다. 이러한 방식으로 데이터 포인트가 있는 임베딩과 없는 임베딩을 통합함으로써, 샘플링 과정을 보다 풍부하게 지원할 수 있으며, 결과적으로 DML 성능을 향상시킬 수 있다. 제안한 방법은 기존 DML 프레임워크에 간편하게 통합 가능하며, 별도의 복잡한 조정 없이 성능을 개선한다. 세 가지 벤치마크 데이터셋에서 실시한 광범위한 실험을 통해 본 방법의 우수성이 입증되었다.

DAS: 깊이 있는 거리 학습을 위한 밀집형 앵커 샘플링 | 최신 연구 논문 | HyperAI초신경