초록
생물학적 뉴런에 대한 보다 세밀한 모델링에 영감을 받아, 스파이크 신경망(Spiking Neural Networks, SNNs)은 생물학적으로 더 타당하고 잠재적으로 더 강력한 신경망 계산 모델로 연구되어 왔을 뿐만 아니라, 생물학적 뉴런의 에너지 효율성을 추출하는 데에도 활용되고 있다. 그러나 이러한 네트워크의 성능은 전통적인 인공 신경망(Artificial Neural Networks, ANNs)에 비해 여전히 부족한 실정이었다. 본 연구에서는, 조절 가능하고 적응 가능한 스파이크 뉴런을 갖춘 순환 구조의 신경망과 새로운 서로우드 그래디언트(Surrogate Gradient)를 결합함으로써, 시간 영역에서의 도전적인 벤치마크 과제—예를 들어 음성 인식 및 제스처 인식—에서 SNNs의 최고 성능을 달성함을 보여준다. 이 성능은 표준적인 전통적 순환 신경망(Recurrent Neural Networks, RNNs)을 초월하며, 최첨단 ANNs의 성능에 근접한다. 또한 이러한 SNNs는 희소한 스파이크 활동을 보이므로, 유사한 성능을 낼 때 RNN보다 이론적으로 1~3개의 주기만큼 더 계산 효율적임을 입증한다. 종합적으로, 이 결과는 SNNs가 인공지능 하드웨어 구현을 위한 매력적인 해결책으로 부상할 수 있음을 시사한다.