2달 전

MTP: 다중 작업事前학습을 통한 원격 감지 기초 모델의 발전 注:在韩文中,“事前学習”(预训练)通常写作“사전 학습”。因此,更准确的翻译应为: MTP: 다중 작업 사전 학습을 통한 원격 감지 기초 모델의 발전

Di Wang; Jing Zhang; Minqiang Xu; Lin Liu; Dongsheng Wang; Erzhong Gao; Chengxi Han; Haonan Guo; Bo Du; Dacheng Tao; Liangpei Zhang
MTP: 다중 작업事前학습을 통한 원격 감지 기초 모델의 발전
注:在韩文中,“事前学習”(预训练)通常写作“사전 학습”。因此,更准确的翻译应为:
MTP: 다중 작업 사전 학습을 통한 원격 감지 기초 모델의 발전
초록

기초 모델은 다양한 이미지 해석 작업을 개선함으로써 원격 감시(RS)의 지형을 재구성하였습니다. 사전 학습은 모델 가중치를 효과적으로 초기화하기 위한 지도 학습과 비지도 학습 방법을 포함하는 활발한 연구 주제입니다. 그러나 사전 학습된 모델을 하류 작업으로 전이할 때, 이미지 분류나 객체 구분 작업으로 사전 학습을 수행한 결과로 인해 작업 불일치가 발생할 수 있습니다. 본 연구에서는 이러한 문제를 해결하기 위해 RS 기초 모델에 대한 다중 작업 사전 학습(MTP) 패러다임을 탐구합니다. 공유 인코더와 작업 특화 디코더 구조를 사용하여, 의미 분할, 인스턴스 분할, 회전 객체 검출을 포함하는 SAMRS 데이터셋에서 다중 작업 지도 사전 학습을 수행하였습니다. MTP는 3억 개 이상의 매개변수를 가진 컨볼루션 신경망과 비전 트랜스포머 기초 모델 모두를 지원합니다. 사전 학습된 모델들은 장면 분류, 수평 및 회전 객체 검출, 의미 분할, 변화 검출 등의 다양한 RS 하류 작업에서 미세 조정(finetuning)되었습니다. 14개 데이터셋에 걸친 광범위한 실험 결과, 우리 모델들이 유사한 크기의 기존 모델들보다 우수하며 더 큰 최신 모델들과 비교해도 경쟁력 있는 성능을 보임으로써 MTP의 효과성을 입증하였습니다.