2달 전
이미지 분류기 아키텍처 검색을 위한 정규화된 진화 알고리즘
Esteban Real; Alok Aggarwal; Yanping Huang; Quoc V Le

초록
신경망 이미지 분류기의 수작업 설계에 투입된 노력은 이를 자동으로 발견하기 위한 구조 탐색의 사용을 촉진시켰습니다. 진화 알고리즘은 신경망 구조에 여러 번 적용되었지만, 이렇게 발견된 이미지 분류기는 여전히 인간이 설계한 것보다 열등했습니다. 본 연구에서는 처음으로 수작업 설계를 능가하는 이미지 분류기인 AmoebaNet-A를 진화시키는데 성공했습니다. 이를 위해, 우리는 연령 속성을 도입하여 더 어린 유전자형을 선호하도록 토너먼트 선택 진화 알고리즘을 수정하였습니다. 동일한 크기에서 AmoebaNet-A는 더 복잡한 구조 탐색 방법으로 발견된 현재 최고 수준의 ImageNet 모델과 유사한 정확도를 보입니다. 더 큰 크기로 확장하면, AmoebaNet-A는 83.9% / 96.6%의 상위 5개 ImageNet 정확도로 새로운 기준을 설정합니다. 잘 알려진 강화 학습 알고리즘과 제어된 비교 실험을 통해, 우리는 같은 하드웨어를 사용할 때 진화가 특히 탐색 초기 단계에서 더 빠른 결과를 얻을 수 있다는 증거를 제시하였습니다. 이는 계산 리소스가 적게 제공되는 경우에 관련성이 있습니다. 따라서, 진화는 효과적으로 고품질 구조를 발견하는 간단한 방법입니다.