17일 전

다중 유사도 대비 학습

Emily Mu, John Guttag, Maggie Makar
다중 유사도 대비 학습
초록

유사도 지표를 기반으로, 대조적 방법은 유사한 예시는 서로 가까이, 비유사한 예시는 서로 멀리 떨어지도록 표현을 학습한다. 대조적 학습 기법은 이미지 분류부터 캡션 생성에 이르기까지 다양한 작업의 표현을 학습하는 데 광범위하게 활용되어 왔다. 그러나 기존의 대조적 학습 접근법은 서로 다른 유사도 관계가 존재할 가능성에 대한 고려가 부족하여 일반화 성능이 제한될 수 있다. 본 논문에서는 다중 유사도 지표로부터 동시에 supervision을 활용함으로써 일반화 가능한 임베딩을 학습하는 새로운 다중유사도 대조 손실(MSCon)을 제안한다. 본 방법은 각 유사도 지표에 대한 불확실성에 기반하여 대조적 유사도 가중치를 자동으로 학습하며, 불확실성이 높은 유사도 관계에 대해 가중치를 낮추어 새로운 도메인에 대한 더 우수한 일반화 성능을 달성한다. 실증 결과를 통해 MSCon으로 학습된 네트워크가 도메인 내 및 도메인 외 설정에서 최첨단 기준 대비 우수한 성능을 보임을 확인하였다.

다중 유사도 대비 학습 | 최신 연구 논문 | HyperAI초신경