CATCH: 전이 가능한 아키텍처 탐색을 위한 맥락 기반 메타 강화 학습

최근 몇 년 동안 신경망 아키텍처 탐색(Neural Architecture Search, NAS)은 많은 돌파구를 이루었다. 그러나 놀라운 성과에도 불구하고, 많은 알고리즘이 특정 탐색 공간에 국한되어 있으며, 다수의 작업을 다룰 때 지식을 효율적으로 재사용할 수 있는 메커니즘이 부족하다. 이러한 문제들은 기존 알고리즘의 적용 가능성을 제한하며, 이를 극복하기 위해 우리는 전이 가능한 아키텍처 탐색을 위한 새로운 컨텍스트 기반 메타 강화학습(RL) 알고리즘인 CATCH를 제안한다. 메타학습과 강화학습의 결합은 CATCH가 새로운 작업에 효율적으로 적응할 수 있도록 하면서도 탐색 공간에 대한 의존성을 제거한다. CATCH는 확률적 인코더를 활용하여 작업 특성을 잠재적 컨텍스트 변수로 인코딩하고, 이를 통해 컨트롤러가 최고 성능을 발휘하는 네트워크를 빠르게 탐색할 수 있도록 안내한다. 또한, 이러한 컨텍스트는 네트워크 평가기의 성능을 향상시키고, 저품질 후보를 필터링함으로써 학습 속도를 가속화하는 데 기여한다. 광범위한 실험을 통해 CATCH가 다양한 탐색 알고리즘과 비교해 보편성과 탐색 효율성에서 뛰어난 성능을 보임을 입증하였다. 더불어, CATCH는 도메인 간 아키텍처 탐색을 처리할 수 있으며, ImageNet, COCO, Cityscapes에서 경쟁력 있는 네트워크를 성공적으로 탐색하였다. 본 연구는 우리가 알고 있는 바에 따르면, 다양한 환경에서도 강건성을 유지하면서도 효율적인 전이 가능한 NAS 솔루션을 제안하는 최초의 작업이다.