2달 전
진보적인 신경망 구조 탐색
Chenxi Liu; Barret Zoph; Maxim Neumann; Jonathon Shlens; Wei Hua; Li-Jia Li; Li Fei-Fei; Alan Yuille; Jonathan Huang; Kevin Murphy

초록
우리는 강화학습과 진화 알고리즘을 기반으로 하는 최근 최고 수준의 방법보다 효율적인 합성곱 신경망(CNNs) 구조 학습을 위한 새로운 방법을 제안합니다. 우리의 접근 방식은 순차적 모델 기반 최적화(SMBO) 전략을 사용하며, 이는 복잡도가 증가하는 순서로 구조를 탐색하면서 동시에 대체 모델을 학습하여 구조 공간에서의 탐색을 안내하는 방식입니다. 동일한 탐색 공간에서의 직접 비교 결과, 우리의 방법은 Zoph 등(2018)의 RL 방법에 비해 평가된 모델 수 측면에서 최대 5배 더 효율적이며, 전체 계산 시간 측면에서는 8배 더 빠릅니다. 이러한 방식으로 발견한 구조들은 CIFAR-10과 ImageNet에서 최고 수준의 분류 정확도를 달성합니다.