2달 전

시간 단계 축소: 저지연 시간 신경형 객체 인식을 위한 스파이킹 뉴럴 네트워크

Ding, Yongqi ; Zuo, Lin ; Jing, Mengmeng ; He, Pei ; Xiao, Yongjun
시간 단계 축소: 저지연 시간 신경형 객체 인식을 위한 스파이킹 뉴럴 네트워크
초록

스파이킹 뉴럴 네트워크(SNNs)를 이용한 뉴로모픽 객체 인식은 저전력 뉴로모픽 컴퓨팅의 핵심 기술입니다. 그러나 기존 SNNs는 10에서 40단계 이상의 시간 단계를 사용하여 뉴로모픽 객체를 인식하기 때문에 상당한 지연 시간을 겪고 있습니다. 낮은 지연 시간에서는 기존 SNNs의 성능이 크게 저하됩니다. 본 연구에서는 성능을 저하시키지 않고 낮은 지연 시간으로 뉴로모픽 객체 인식을 실현하기 위해 축소형 SNN(SSNN)을 제안합니다. 구체적으로, 우리는 SNNs를 여러 단계로 나누어 각 단계에서 점진적으로 시간 단계를 줄여서 시간적 중복성을 완화함으로써 추론 지연 시간을大幅减少(대폭 감소)시킵니다. 시간 단계 축소 과정에서, 시간 변환기는 시간 척도를 부드럽게 변환하고 정보를 최대한 보존합니다. 또한, 우리는 훈련 과정에서 SNN에 여러 개의 조기 분류기를 추가하여 대리 경사와 실제 경사 사이의 불일치 및 경사 소실/폭발 문제를 완화시키므로써 낮은 지연 시간에서도 성능 저하가 발생하지 않도록 합니다. CIFAR10-DVS, N-Caltech101, DVS-Gesture 등의 뉴로모픽 데이터셋에 대한 광범위한 실험 결과, SSNN은 기준 정확도를 6.55% ~ 21.41% 향상시키는 것으로 나타났습니다. 평균 5개의 시간 단계만 사용하고 어떠한 데이터 증강도 없이 SSNN은 CIFAR10-DVS에서 73.63%의 정확도를 달성할 수 있었습니다. 본 연구는 이질적인 시간 척도 SNN을 제시하며, 고성능 저지연 SNN 개발에 유용한 통찰력을 제공합니다.

시간 단계 축소: 저지연 시간 신경형 객체 인식을 위한 스파이킹 뉴럴 네트워크 | 최신 연구 논문 | HyperAI초신경