컨볼루션 스파이크 신경망에서 스파이크 시간 이동 기반 오차 역전파

최근 우리는 단일 스파이크 기반 시간 부호화를 사용하는 다층 스파이크 신경망(SNN) 학습을 위해 역방향 재귀적 기울기 계산을 피하는 STiDi-BP 알고리즘을 제안하였다. 이 알고리즘은 막 전위에 대한 스파이크 지연의 도함수를 선형 근사로 계산하며, 조각별 선형 후유전압을 갖는 스파이킹 신경망을 사용하여 계산 비용과 신경 처리의 복잡도를 감소시킨다. 본 논문에서는 STiDi-BP 알고리즘을 심층적이고 컨볼루션 아키텍처에 적용할 수 있도록 확장하였다. MNIST 및 Fashion-MNIST 데이터셋이라는 두 가지 대표적인 벤치마크를 기반으로 한 이미지 분류 작업에 대한 평가 결과, 각각 99.2% 및 92.8%의 정확도를 달성하여, 이 알고리즘이 심층 SNN에 적용 가능함을 입증하였다. 또한 메모리 저장 용량과 계산 비용을 줄이는 문제에 대해서도 고려하였다. 이를 위해, 역전파 단계에서 갱신되는 실수형 가중치와 전방전파 과정에서 사용되는 부호만을 갖는 이진 가중치를 두 가지 세트로 가지는 컨볼루션 SNN(CSNN)을 고려하였다. MNIST 및 Fashion-MNIST 두 데이터셋에서 이진 CSNN을 평가한 결과, 실수형 가중치 대비 정확도 저하가 거의 없이 만족스러운 성능을 달성하였으며, 각각 약 0.6% 및 0.8%의 정확도 저하를 보였다.