17일 전

두 사람이 함께 춤을 출 때처럼: 딥 메트릭 학습을 위한 미크스업

Shashanka Venkataramanan, Bill Psomas, Ewa Kijak, Laurent Amsaleg, Konstantinos Karantzalos, Yannis Avrithis
두 사람이 함께 춤을 출 때처럼: 딥 메트릭 학습을 위한 미크스업
초록

메트릭 학습은 유사한 클래스의 임베딩이 서로 가까워지도록 유도하고, 비유사한 클래스의 임베딩은 멀리 떨어지도록 유도하는 구분 가능한 표현을 학습하는 과정을 의미한다. 최신 기법들은 대부분 복잡한 손실 함수나 샘플 채굴 전략에 집중하고 있다. 한편으로는 메트릭 학습 손실 함수는 두 개 이상의 예시를 동시에 고려한다. 다른 한편으로는 분류를 위한 현대적인 데이터 증강 기법 역시 두 개 이상의 예시를 동시에 다룬다. 그러나 이 두 아이디어의 결합은 아직 충분히 연구되지 않은 분야이다.본 연구에서는 이러한 격차를 메우고, 두 개 이상의 예시와 해당 타깃 레이블을 동시에 보간하는 강력한 데이터 증강 기법인 미크스업(Mixup)을 활용하여 표현 성능을 향상시키는 것을 목표로 한다. 이 작업은 분류 문제와 달리 메트릭 학습에서 사용되는 손실 함수가 예시들에 대해 가법적이지 않기 때문에, 타깃 레이블을 보간하는 아이디어가 직관적이지 않기 때문에 도전적이다. 우리 연구를 통해, 기존의 메트릭 학습 손실 함수를 포괄하는 일반화된 공식을 제안하고, 미크스업을 수용할 수 있도록 수정하여 ‘메트릭 미크스(Metric Mix)’ 또는 ‘메트릭스(Metrix)’라는 새로운 방법을 제안한다. 또한, 학습 중 예시를 혼합함으로써 훈련 클래스에 국한되지 않고 임베딩 공간의 더 넓은 영역을 탐색하고 있음을 보여주는 새로운 평가 지표인 ‘이용률(Utilization)’을 도입한다. 검증을 위해, 입력 데이터, 중간 표현 또는 임베딩을 타깃 레이블과 함께 혼합하는 방식이 네 개의 주요 딥 메트릭 학습 벤치마크 데이터셋에서 최신 기술을 크게 능가함을 실험을 통해 입증한다.

두 사람이 함께 춤을 출 때처럼: 딥 메트릭 학습을 위한 미크스업 | 최신 연구 논문 | HyperAI초신경