MemNAS: Grow-Trim 학습을 통한 메모리 효율적인 신경망 아키텍처 탐색

최근 자동 신경망 아키텍처 탐색 기술에 대한 연구들은 수작업으로 설계된 신경망 아키텍처와 경쟁하거나 이를 뛰어넘는 성능을 보여주고 있다. 그러나 기존의 대부분의 탐색 기법은 잔차 구조(residual structure)와 얕은 특징과 깊은 특징 사이의 연결(concatenation connection)를 주로 사용한다. 그 결과, 이러한 모델은 네트워크 파라미터와 중간 특징 맵을 저장하기 위한 대량의 메모리와 과도한 계산 복잡성을 요구하므로, 자원이 제한된 장치에서 실행하기에 부담이 크다. 이 문제를 해결하기 위해 우리는 성장과 절단(growing and trimming) 기반의 새로운 신경망 아키텍처 탐색 프레임워크인 MemNAS를 제안한다. 이 프레임워크는 추론 네트워크의 성능뿐 아니라 메모리 요구량까지 동시에 최적화한다. 구체적으로 탐색 과정에서 네트워크 파라미터와 필수적인 중간 특징 맵의 메모리 사용량을 성능과 함께 최적화 목표로 고려한다. 또한, 탐색 정확도를 향상시키기 위해 여러 후보 아키텍처 간의 상관관계 정보를 추출하여 순위를 매기고, 원하는 성능과 메모리 효율성을 동시에 만족하는 후보를 선택한다. ImageNet 분류 작업에서 MemNAS는 75.4%의 정확도를 달성하였으며, MobileNetV2보다 0.7% 높은 성능을 보였고, 메모리 요구량은 42.1% 줄어들었다. 추가 실험을 통해 제안된 MemNAS가 정확도와 메모리 소비 간의 트레이드오프를 다양한 목표에 대해 우수한 성능으로 수행할 수 있음을 확인하였다.