2달 전

CLUDA: 비지도 도메인 적응을 위한 대조적 학습 방법론

Midhun Vayyat; Jaswin Kasi; Anuraag Bhattacharya; Shuaib Ahmed; Rahul Tallamraju
CLUDA: 비지도 도메인 적응을 위한 대조적 학습 방법론
초록

본 연구에서 우리는 클루다(CLUDA)를 제안합니다. 이는 대조 손실을 의사 라벨을 생성하는 교사 네트워크로부터 목표 도메인으로 추출된 학생-교사 학습 패러다임에 통합하여 의미 분할을 위한 비지도 도메인 적응(UDA)을 수행하는 간단하면서도 혁신적인 방법입니다. 구체적으로, 인코더로부터 다중 수준 융합 특성 맵을 추출하고, 소스-목표 이미지 믹싱을 통해 다른 클래스와 다른 도메인 간에 대조 손실을 적용합니다. 우리는 다양한 특성 인코더 아키텍처와 의미 분할의 다른 도메인 적응 데이터셋에서 성능을 지속적으로 향상시키고 있습니다. 또한, 최신 다중 해상도 훈련 접근법에서 성능 개선을 위해 학습된 가중치 대조 손실을 소개합니다. 우리는 GTA → 시티스케이프스(74.4 mIOU, +0.6) 및 신시아 → 시티스케이프스(67.2 mIOU, +1.4) 데이터셋에서 최신 결과를 생성하였습니다. CLUDA는 UDA에서 일반적인 방법으로서 대조 학습의 효과를 입증하며, 기존의 UDA에 쉽게 통합될 수 있습니다. 구현 세부 사항은 부록 자료를 참조하시기 바랍니다.

CLUDA: 비지도 도메인 적응을 위한 대조적 학습 방법론 | 최신 연구 논문 | HyperAI초신경