초록
각종 시각 및 자연어 작업을 위한 신경망 구조의 자동 검색은 관심 있는 모든 데이터셋에서 높은 성능의 구조를 발견할 수 있게 해주므로 주요 도구로 자리잡고 있습니다. 그러나 픽셀 단위 밀도 분류와 같은 더 어려운 영역에서는 현재의 자동 접근 방식이 범위에 제한을 받습니다. 기존 이미지 분류기들에 대한 강한 의존성으로 인해 이러한 접근 방식들은 종종 몇 개의 추가 계층만을 탐색하며, 발견된 구조가 여전히 많은 매개변수를 포함하는 경향이 있습니다. 이에 반해, 본 연구에서는 사전 학습된 분류 네트워크의 몇 개 블록만으로 가벼우면서도 정확한 세그멘테이션 구조를 찾을 수 있는 새로운 해결책을 제안합니다. 이를 위해, 연산 집합의 템플릿에 기반하여 점진적으로 방법론을 구축하며, 각 단계에서 어떤 템플릿과 얼마나 많은 횟수로 적용해야 하는지를 예측하고 연결 구조와 다운샘플링 비율을 생성합니다. 이러한 결정들은 홀드아웃 세트에서 발행된 구조의 점수를 기반으로 보상받는 순환 신경망(RNN)에 의해 이루어지며, 강화 학습을 사용하여 훈련됩니다. 발견된 한 가지 구조는 270K 매개변수만으로 CamVid에서 63.2% 평균 IoU(Intersection over Union)와 CityScapes에서 67.8%를 달성했습니다. 사전 학습된 모델들과 검색 코드는 https://github.com/DrSleep/nas-segm-pytorch 에서 제공됩니다.