15일 전

소수 샘플 세그멘테이션을 위한 공분산 행렬의 이중 변형 집계

Zhitong Xiong, Haopeng Li, Xiao Xiang Zhu
소수 샘플 세그멘테이션을 위한 공분산 행렬의 이중 변형 집계
초록

적은 수의 레이블링된 샘플을 사용하여 의미 분할 모델을 훈련하는 것은 다양한 실세계 응용 분야에서 큰 잠재력을 지닌다. 소수 샘플 분할 작업에서 주요 과제는 제한된 훈련 데이터를 바탕으로 지원 샘플과 쿼리 샘플 간의 의미적 대응 관계를 정확히 측정하는 것이다. 이 문제를 해결하기 위해, 우리는 변형 가능한 4차원 트랜스포머를 사용하여 학습 가능한 공분산 행렬을 집계함으로써 분할 맵을 효과적으로 예측하는 방법을 제안한다. 구체적으로, 본 연구에서는 먼저 가우시안 프로세스를 위한 공분산 커널을 학습하기 위한 새로운 하드 예제 마이닝 기법을 설계한다. 학습된 공분산 커널 함수는 기존의 코사인 유사도 기반 방법에 비해 대응 측정에서 뛰어난 성능을 발휘한다. 이러한 학습된 공분산 커널을 기반으로, 특징 유사도 맵을 적응적으로 분할 결과로 집계할 수 있는 효율적인 이중 변형 가능한 4차원 트랜스포머 모듈을 설계하였다. 이 두 가지 설계를 결합함으로써 제안하는 방법은 공개 벤치마크에서 새로운 최상의 성능을 달성할 뿐만 아니라, 기존 방법에 비해 매우 빠르게 수렴함을 확인할 수 있었다. 세 가지 공개 데이터셋에서 수행된 실험을 통해 본 방법의 효과성이 입증되었다.

소수 샘플 세그멘테이션을 위한 공분산 행렬의 이중 변형 집계 | 최신 연구 논문 | HyperAI초신경