17일 전

딥 메트릭 학습을 위한 인트라배치 연결 학습

Jenny Seidenschwarz, Ismail Elezi, Laura Leal-Taixé
딥 메트릭 학습을 위한 인트라배치 연결 학습
초록

메트릭 학습의 목적은 유사한 샘플이 서로 더 가까워지도록, 샘플들을 낮은 차원의 공간으로 매핑하는 함수를 학습하는 것이다. 특히 딥 메트릭 학습은 신경망을 활용하여 이러한 매핑을 학습한다. 대부분의 기존 방법들은 동일한 클래스 내 또는 서로 다른 클래스 간의 샘플 쌍 또는 트리플릿 간의 관계만 고려하는 손실 함수에 의존한다. 그러나 이러한 방법들은 임베딩 공간 전체의 구조를 탐색하지 못한다. 이를 해결하기 위해, 미니배치 내 모든 샘플 간의 관계를 고려하는 메시지 전달 네트워크 기반의 접근 방식을 제안한다. 주어진 배치 내 모든 샘플 간에 메시지를 교환함으로써 임베딩 벡터를 정교화함으로써, 학습 과정이 전체 구조를 인지할 수 있도록 한다. 또한, 결정 경계를 예측하는 데 있어 모든 샘플이 동일한 중요도를 갖는 것은 아니므로, 메시지 전달 과정에서 어텐션 메커니즘을 도입하여 각 샘플이 이웃 샘플의 중요도를 적절히 가중할 수 있도록 한다. 제안하는 방법은 CUB-200-2011, Cars196, Stanford Online Products, In-Shop Clothes 데이터셋에서 클러스터링 및 이미지 검색 작업에서 최신 기술(SOTA) 수준의 성능을 달성하였다. 향후 연구를 용이하게 하기 위해 코드와 모델을 https://github.com/dvl-tum/intra_batch_connections 에 공개한다.