11일 전

ADC 없는 인메모리 컴퓨팅 하드웨어를 활용한 스파이크 신경망을 위한 하드웨어/소프트웨어 공동 설계

Marco Paul E. Apolinario, Adarsh Kumar Kosta, Utkarsh Saxena, Kaushik Roy
ADC 없는 인메모리 컴퓨팅 하드웨어를 활용한 스파이크 신경망을 위한 하드웨어/소프트웨어 공동 설계
초록

스파이킹 신경망(Spiking Neural Networks, SNNs)은 생물학적으로 타당한 모델로서 자원 제약이 있는 엣지 장치에서 순차적 작업을 에너지 효율적으로 구현할 잠재력을 지닌다. 그러나 표준 GPU 기반 상용 엣지 플랫폼은 SNN의 배포에 최적화되어 있지 않아 높은 에너지 소비와 지연 시간을 초래한다. 반면 아날로그 메모리 내 계산(In-Memory Computing, IMC) 플랫폼은 에너지 효율적인 추론 엔진으로 활용될 수 있지만, 고정밀 아날로그 디지털 변환기(High-Precision ADC, HP-ADC)의 막대한 에너지 소비, 지연 시간 및 회로 면적 요구 사항으로 인해 메모리 내 연산의 이점을 상쇄하고 있다. 본 논문에서는 기존의 HP-ADC 대신 센스 증폭기(sense-amplifiers)를 1비트 ADC로 활용하여 ADC가 없는(IMC) 아키텍처에 SNN을 배포할 수 있는 하드웨어/소프트웨어 공동 설계 방법론을 제안한다. 제안한 프레임워크는 하드웨어 인식 학습(hardware-aware training)을 수행함으로써 정확도 저하를 최소화하며, 단순한 이미지 분류를 넘어서 더 복잡한 순차 회귀 작업까지 확장 가능한 능력을 갖추고 있다. 광흐름 추정 및 제스처 인식과 같은 복잡한 작업에 대한 실험 결과, SNN 학습 과정에서 점진적으로 하드웨어 인식을 강화함으로써 모델이 ADC 없는 IMC와 관련된 비이상적인 특성에 기인한 오류를 적응하고 학습할 수 있음을 확인하였다. 또한 제안된 ADC 없는 IMC 아키텍처는 HP-ADC 기반 IMC 대비 에너지 소비에서 2~7배, 지연 시간에서 8.9~24.6배의 상당한 향상을 보였다. 이 성능 향상은 SNN 모델과 작업 부하에 따라 달라지며, 다양한 엣지 컴퓨팅 응용 분야에서 높은 에너지 효율성과 실시간 처리 능력을 제공할 수 있음을 시사한다.

ADC 없는 인메모리 컴퓨팅 하드웨어를 활용한 스파이크 신경망을 위한 하드웨어/소프트웨어 공동 설계 | 최신 연구 논문 | HyperAI초신경