하이퍼볼릭 비전 트랜스포머: 메트릭 학습 개선 통합

메트릭 학습은 유사한 클래스의 임베딩을 선택된 거리 척도에서 가깝게, 비유사한 클래스의 임베딩은 멀리 떨어지도록 유도하는 고도로 구분 가능한 모델을 학습하는 것을 목표로 한다. 일반적인 접근법은 인코더를 사용하여 임베딩을 추출하고, 거리 기반 손실 함수를 통해 표현을 일치시키는 것이다. 보통은 유클리드 거리가 사용된다. 자연 데이터에 대한 하이퍼볼릭 데이터 임베딩 학습에 대한 관심이 증가함에 따라, 하이퍼볼릭 기하학이 자연 데이터에 유리할 수 있다는 점이 부각되고 있다. 이러한 연구 흐름을 따르며, 본 연구에서는 메트릭 학습을 위한 새로운 하이퍼볼릭 기반 모델을 제안한다. 본 방법의 핵심은 출력 임베딩을 하이퍼볼릭 공간에 매핑하는 비전 트랜스포머이다. 이 임베딩들은 수정된 쌍별 교차 엔트로피 손실 함수를 통해 직접 최적화된다. 제안된 모델은 네 가지 데이터셋에서 여섯 가지 다양한 설정으로 평가되었으며, 새로운 최고 성능(SOTA)을 달성하였다. 소스 코드는 https://github.com/htdt/hyp_metric 에서 공개되어 있다.