11일 전

노이즈 저항성 있는 대비 손실을 활용한 부분적 뷰 정렬 표현 학습

{Xi Peng, Peng Hu, Zitao Liu, Zhenyu Huang, Yunfan Li, Mouxing Yang}
초록

실제 응용 환경에서는 공간적, 시간적, 또는 공간-시간적 비동기성으로 인해 여러 관측 시점 간에 데이터의 일부만 정렬되어 있는 경우가 흔하며, 이로 인해所谓的 '부분적 관측 시점 정렬 문제(Partially View-aligned Problem, PVP)'가 발생한다. 이러한 레이블 없이도 해결이 가능한 덜 다뤄진 문제에 대해, 노이즈에 강건한 대조 손실(contrastive loss)을 활용하여 표현 학습과 데이터 정렬을 동시에 수행하는 방법을 제안한다. 간단히 말해, 한 관측 시점의 각 샘플에 대해 다른 시점에서 동일 카테고리에 속하는 대응 샘플을 식별함으로써 교차 시점 간의 대응 관계를 구축하고자 한다. 대조 학습은 데이터 쌍을 입력으로 필요로 하므로, 기존의 알려진 대응 관계를 이용해 긍정 쌍(positive pairs)을 구성하고, 무작위 샘플링을 통해 부정 쌍(negative pairs)을 생성한다. 무작위 샘플링에 의해 발생할 수 있는 오류 부정 쌍(false negatives)의 영향을 완화하거나 제거하기 위해, 오류 부정 쌍이 네트워크 최적화를 지배하지 않도록 적응적으로 조절할 수 있는 노이즈에 강건한 대조 손실을 제안한다. 헝가리 알고리즘 및 그 변형들과 달리, 본 연구의 PVP 해결 방식은 개체 수준(instance-level)의 정렬이 아닌 카테고리 수준(category-level)의 정렬을 목표로 한다. 카테고리 수준의 정렬은 더 높은 접근성과 확장성을 가지므로, 군집화 및 분류와 같은 과제에 더 적합하다. 또한, 본 연구가 최초로 대조 학습이 노이즈 있는 레이블에 대해 강건하도록 구현한 사례라고 할 수 있다. 광범위한 실험을 통해 제안한 방법이 10개의 최첨단 다중 관측 시점 접근법과 비교하여 군집화 및 분류 과제에서 뛰어난 성능을 보임을 확인하였다.

노이즈 저항성 있는 대비 손실을 활용한 부분적 뷰 정렬 표현 학습 | 최신 연구 논문 | HyperAI초신경