11일 전

서클 손실: 쌍 유사도 최적화의 통합적 관점

Yifan Sun, Changmao Cheng, Yuhan Zhang, Chi Zhang, Liang Zheng, Zhongdao Wang, Yichen Wei
서클 손실: 쌍 유사도 최적화의 통합적 관점
초록

이 논문은 깊은 특징 학습에 대해 쌍 유사도 최적화 관점을 제안하며, 내부 클래스 유사도 (s_p)를 최대화하고, 클래스 간 유사도 (s_n)를 최소화하는 것을 목표로 한다. 우리는 트리플릿 손실과 소프트맥스 plus 크로스엔트로피 손실을 포함한 다수의 손실 함수가 (s_n)와 (s_p)를 유사도 쌍에 통합하여 ((s_n - s_p))를 줄이려는 최적화 방식을 사용한다는 점을 발견하였다. 이러한 최적화 방식은 각 유사도 점수에 대한 페널티 강도가 동일하게 제한되어 있어 유연성이 부족하다는 문제를 가지고 있다. 우리의 직관은, 유사도 점수가 최적 상태로부터 크게 벗어날 경우 그 점수에 더 큰 주목을 기울여야 한다는 것이다. 이를 위해 우리는 단순히 각 유사도를 재가중하여 최적화가 덜 되어 있는 유사도 점수를 강조한다. 그 결과, 원형 결정 경계를 가진 손실 함수인 Circle 손실이 도출되며, 이에 따라 이름이 붙여졌다. Circle 손실은 클래스 수준 레이블과 쌍별 레이블을 사용하는 두 가지 기본적인 깊은 특징 학습 방법에 대해 통일된 수식을 제공한다. 이론적으로, Circle 손실은 ((s_n - s_p))를 최적화하는 기존 손실 함수에 비해 더 유연한 최적화 접근 방식을 제공하며, 더 명확한 수렴 목표를 지향함을 보여준다. 실험적으로는 Circle 손실이 다양한 깊은 특징 학습 과제에서 우수한 성능을 보임을 입증하였다. 얼굴 인식, 사람 재식별, 그리고 여러 세분화된 이미지 검색 데이터셋에서, 그 성능은 최신 기술 수준과 견줄 만하다.

서클 손실: 쌍 유사도 최적화의 통합적 관점 | 최신 연구 논문 | HyperAI초신경