11일 전

콘덴세이션넷: 크로스채널 풀링 레이어와 가상 특징 맵을 갖춘 메모리 효율적인 네트워크 아키텍처

Tse-Wei Chen, Motoki Yoshinaga, Hongxing Gao, Wei Tao, Dongchao Wen, Junjie Liu, Kinya Osa, Masami Kato
콘덴세이션넷: 크로스채널 풀링 레이어와 가상 특징 맵을 갖춘 메모리 효율적인 네트워크 아키텍처
초록

"경량화된 합성곱 신경망(Convolutional Neural Networks)"은 임베디드 비전 분야에서 중요한 연구 주제이다. 자원 제한된 하드웨어 플랫폼에서 이미지 인식 작업을 수행하기 위해서는 메모리 크기와 계산 비용을 줄이는 것이 필수적이다. 본 논문의 기여는 다음과 같다. 첫째, 특수한 네트워크 아키텍처인 Condensation-Net을 처리하는 알고리즘을 제안하며, 특성 맵의 최대 메모리 저장량을 증가시키지 않는다. 가상 특성 맵을 위한 아키텍처는 특성 맵을 메모리에 저장하기 전에 채널 간 풀링(cross-channel pooling)의 결과를 미리 계산함으로써 메모리 대역폭을 26.5% 절감한다. 둘째, 채널 간 풀링이 필터 가중치의 수를 증가시킴으로써 객체 탐지 작업(예: 얼굴 탐지)의 정확도를 향상시킬 수 있음을 보여준다. 양자화된 네트워크에서는 Tiny-YOLOv2 대비 정확도가 2.0% 향상되었으며, 전체 정밀도 네트워크에서는 1.5% 향상되었고, 이는 거짓 긍정률(False-positive rate)이 0.1일 때의 결과이다. 마지막으로, 분석 결과에 따르면 제안한 하드웨어 아키텍처를 통해 채널 간 풀링을 지원하는 데 필요한 부가적 오버헤드는 거의 무시할 수 있을 정도로 작다. Condensation-Net을 지원하기 위한 추가 메모리 비용은 전체 크기의 0.2%에 불과하며, 추가 게이트 수는 전체 크기의 1.0%에 그친다.

콘덴세이션넷: 크로스채널 풀링 레이어와 가상 특징 맵을 갖춘 메모리 효율적인 네트워크 아키텍처 | 최신 연구 논문 | HyperAI초신경