11일 전

주의 깊은 웨이브블록: 사람 재식별 및 그 이상 분야에서 비지도 도메인 적응을 위한 보완성 강화 상호 네트워크

Wenhao Wang, Fang Zhao, Shengcai Liao, Ling Shao
주의 깊은 웨이브블록: 사람 재식별 및 그 이상 분야에서 비지도 도메인 적응을 위한 보완성 강화 상호 네트워크
초록

사람 재식별을 위한 비지도 도메인 적응(UDA)은 소스 도메인과 타겟 도메인 간의 큰 격차로 인해 도전적인 문제이다. 전형적인 자기 학습 방법은 클러스터링 알고리즘을 통해 생성된 가상 레이블(pseudo-labels)을 사용하여 타겟 도메인에서 모델을 반복적으로 최적화하는 것이다. 그러나 이러한 방법의 단점은 노이즈가 많은 가상 레이블이 학습 과정에 방해가 된다는 점이다. 이 문제를 해결하기 위해, 두 개의 네트워크를 활용한 상호 학습(mutual learning) 방법이 제안되었으며, 이는 신뢰할 수 있는 소프트 레이블을 생성하는 데 기여한다. 그러나 두 신경망이 점차 수렴함에 따라 그들의 보완성(complementarity)이 약화되고, 동일한 종류의 노이즈에 편향될 가능성이 있다. 본 논문에서는 상호 학습의 이중 네트워크에 통합할 수 있는 새로운 경량 모듈인 주의 기반 웨이브블록(Attentive WaveBlock, AWB)을 제안한다. 이 모듈은 가상 레이블 내의 노이즈를 더욱 억제하고, 두 네트워크 간의 보완성을 강화하는 데 기여한다. 구체적으로, 먼저 파라미터가 필요 없는 웨이브블록(WaveBlock)을 도입하여, 두 네트워크가 학습하는 특징 간의 차이를 서로 다른 방식으로 특징맵의 블록을 와이브(wave)시키는 방식으로 생성한다. 이후 주의 메커니즘(attention mechanism)을 활용하여 생성된 차이를 확대하고, 더 많은 보완적인 특징을 탐지한다. 또한, 사전 주의(pre-attention)와 사후 주의(post-attention)라는 두 가지 조합 전략을 탐색하였다. 실험 결과, 제안한 방법이 여러 UDA 사람 재식별 작업에서 최신 기술 수준(SOTA)의 성능을 달성하며, 뚜렷한 성능 향상을 보였다. 또한, 본 방법이 차량 재식별 및 이미지 분류 작업에도 적용 가능함을 통해 그 일반성(generality)을 입증하였다. 코드 및 모델은 https://github.com/WangWenhao0716/Attentive-WaveBlock 에 공개되어 있다.

주의 깊은 웨이브블록: 사람 재식별 및 그 이상 분야에서 비지도 도메인 적응을 위한 보완성 강화 상호 네트워크 | 최신 연구 논문 | HyperAI초신경