2달 전

BIER을 이용한 깊이 메트릭 학습: 독립적 임베딩의 강건성 향상

Michael Opitz; Georg Waltner; Horst Possegger; Horst Bischof
BIER을 이용한 깊이 메트릭 학습: 독립적 임베딩의 강건성 향상
초록

깊은 신경망을 사용하여 이미지 쌍 간의 유사성 함수를 학습하면 임베딩의 활성화가 매우 높게 상관관계를 보입니다. 본 연구에서는 앙상블 내의 독립성을 활용하여 이러한 임베딩의 강건성을 개선하는 방법을 제시합니다. 이를 위해 깊은 네트워크의 마지막 임베딩 계층을 임베딩 앙상블로 나누고, 이 앙상블을 온라인 그래디언트 부스팅 문제로 공식화하여 훈련합니다. 각 학습자는 이전 학습자로부터 재가중된 훈련 샘플을 받습니다. 또한, 우리는 앙상블 내 다양성을 증가시키는 두 가지 손실 함수를 제안합니다. 이러한 손실 함수는 가중치 초기화 시나 훈련 중에 적용할 수 있습니다. 우리의 기여는 임베딩의 상관관계를 크게 줄임으로써 큰 임베딩 크기를 더 효과적으로 활용하고, 그 결과로 임베딩의 검색 정확도를 향상시킵니다. 우리의 방법은 어떤 미분 가능한 손실 함수와도 호환되며, 테스트 시 추가 매개변수를 도입하지 않습니다. 우리는 이미지 검색 작업에서 우리의 메트릭 학습 방법을 평가하였으며, CUB 200-2011, Cars-196, Stanford Online Products, In-Shop Clothes Retrieval 및 VehicleID 데이터셋에서 기존 최신 방법들을 개선함을 보였습니다.