HyT-NAS: 엣지 장치를 위한 하이브리드 트랜스포머 신경망 아키텍처 탐색

비전 트랜스포머는 최근 주의 기반 딥러닝(DL) 아키텍처가 컴퓨터 비전(CV) 작업에서 뛰어난 성과를 달성하는 데 기여하였다. 그러나 광범위한 계산 자원이 요구되기 때문에 이러한 아키텍처는 자원 제약이 있는 플랫폼에 거의 구현되지 않는다. 현재의 연구는 이미지 분류 및 객체 탐지와 같은 CV 작업을 위한 하이브리드 수작업 기반 컨볼루션과 주의 기반 모델을 탐구하고 있다. 본 논문에서는 소형 장치에서 비전 작업을 대상으로 하는 하이브리드 아키텍처를 포함한 효율적인 하드웨어 인지 신경망 아키텍처 탐색(HW-NAS)인 HyT-NAS를 제안한다. HyT-NAS는 검색 공간을 확장하고, 검색 전략 및 성능 예측 모델을 개선함으로써 최신 HW-NAS 기술을 향상시킨다. 실험 결과, HyT-NAS는 약 5배 미만의 학습 평가 횟수로 기존의 하이퍼볼륨(Hypervolume)과 유사한 성능을 달성하였다. 제안된 아키텍처는 Visual Wake Words 작업에서 MLPerf MobileNetV1보다 정확도는 6.3% 향상되었으며, 파라미터 수는 3.5배 적게 사용하였다.