17일 전

지오그래피 인지 자율 학습

Kumar Ayush, Burak Uzkent, Chenlin Meng, Kumar Tanmay, Marshall Burke, David Lobell, Stefano Ermon
지오그래피 인지 자율 학습
초록

대조 학습(contrastive learning) 방법은 컴퓨터 비전 과제에서 감독 학습과 비감독 학습 간의 성능 격차를 크게 좁히는 데 기여해왔다. 본 논문에서는 이러한 방법이 레이저 원격 탐사 데이터와 같은 지리적 위치 정보가 부여된 데이터셋에 어떻게 적용될 수 있는지를 탐구한다. 이러한 데이터셋에서는 레이블이 없는 데이터가 흔히 풍부하지만, 레이블이 있는 데이터는 극히 제한적이다. 먼저, 기존 기준 벤치마크에서 대조 학습과 감독 학습 간에 여전히 의미 있는 성능 격차가 존재함을 보여준다. 이 격차를 해소하기 위해, 원격 탐사 데이터의 시공간 구조를 활용하는 새로운 학습 방법을 제안한다. 우리는 시간에 걸쳐 공간적으로 정렬된 이미지를 활용하여 대조 학습에서 시간적 양성 쌍(temporal positive pairs)을 구성하고, 지리적 위치 정보를 활용해 사전 텍스트 과제(pre-text tasks)를 설계한다. 실험 결과, 제안한 방법이 원격 탐사 이미지 분류, 객체 탐지, 세분화(semantic segmentation) 등의 과제에서 대조 학습과 감독 학습 간의 성능 격차를 효과적으로 해소함을 입증한다. 또한, 제안한 방법이 지리적 태그가 부여된 ImageNet 이미지에도 적용 가능하며, 다양한 하류 과제에서 성능을 향상시킬 수 있음을 보여준다. 프로젝트 웹사이트는 다음 링크에서 확인할 수 있다: geography-aware-ssl.github.io.

지오그래피 인지 자율 학습 | 최신 연구 논문 | HyperAI초신경