11일 전

픽셀에서 세그먼트로의 대조 학습을 통한 보편적인 약한 감독 세그먼트 분할

Tsung-Wei Ke, Jyh-Jing Hwang, Stella X. Yu
픽셀에서 세그먼트로의 대조 학습을 통한 보편적인 약한 감독 세그먼트 분할
초록

약한 감독 세그멘테이션은 이미지 수준 태그, 객체 경계 박스, 레이블링된 점, 스케치와 같은 부분적인 애너테이션을 가진 학습 인스턴스를 기반으로 각 픽셀에 레이블을 할당하는 작업을 의미한다. 이 작업은 도전적이다. 왜냐하면 굵은 애너테이션(태그, 경계 박스)은 정밀한 픽셀 위치 정보를 부족하고, 희소한 애너테이션(점, 스케치)은 광범위한 영역 커버리지를 부족하기 때문이다. 기존의 방법들은 이러한 두 가지 유형의 약한 감독을 별도로 다룬다. 굵은 레이블의 위치를 추정하기 위해 클래스 활성화 맵(activation maps)이 사용되며, 반복적으로 세그멘테이션 모델을 개선하고, 희소한 레이블을 전체 이미지로 전파하기 위해 조건부 랜덤 필드(CRF)가 활용된다.본 연구에서는 약한 감독 세그멘테이션을 반감독형 메트릭 학습 문제로 재정의한다. 여기서 동일한 의미를 가진 픽셀은 동일한 특징으로, 다른 의미를 가진 픽셀은 서로 다른 특징으로 매핑되어야 한다. 우리는 특징 공간 내에서 픽셀과 세그먼트 간에 4가지 유형의 대조적 관계를 제안한다. 이는 저수준 이미지 유사성, 의미적 애너테이션, 동시 발생성, 특징 유사성(affinity)을 포착한다. 이러한 관계들은 사전 지식(prior) 역할을 하며, 부분적인 애너테이션을 가진 학습 이미지로부터 데이터 주도적 방식으로 픽셀 단위 특징을 학습할 수 있게 한다. 특히, 학습 이미지 내의 레이블이 없는 픽셀은 각 이미지 내에서의 데이터 주도적 그룹화에 참여할 뿐만 아니라, 이미지 내 및 이미지 간의 구분 가능한 특징 학습에도 기여한다. 제안하는 방법은 Pascal VOC와 DensePose에서 큰 성능 향상을 보이며, 보편적인 약한 감독 세그멘테이션 모델을 제공한다. 코드는 공개적으로 제공되며, https://github.com/twke18/SPML 에서 확인할 수 있다.

픽셀에서 세그먼트로의 대조 학습을 통한 보편적인 약한 감독 세그먼트 분할 | 최신 연구 논문 | HyperAI초신경