19일 전

히브스 성숙을 통한 스파이크 신경망에서의 메모리 풍부화된 계산 및 학습

Thomas Limbacher, Ozan Özdenizci, Robert Legenstein
히브스 성숙을 통한 스파이크 신경망에서의 메모리 풍부화된 계산 및 학습
초록

기억은 생물학적 신경계에서 정보를 수백 밀리초에서 수년에 이르는 다양한 시간 척도에 걸쳐 유지할 수 있게 해주는 핵심 구성 요소이다. 헤비안 학습(Hebbian plasticity)은 생물학적 기억에 핵심적인 역할을 한다고 여겨지지만, 현재까지는 주로 패턴 완성(pattern completion)과 비지도 학습(unsupervised learning)의 맥락에서 분석되어 왔다. 본 연구에서는 헤비안 학습이 생물학적 신경계 내 계산 과정의 근본 원리임을 제안한다. 우리는 헤비안 시냅스 가소성으로 풍부하게 보완된 새로운 스파이크 신경망(spike neural network) 아키텍처를 제안한다. 본 연구에서는 헤비안 가소성이 스파이크 신경망의 계산 능력과 학습 능력 측면에서 놀라울 정도로 유연성을 제공함을 보여준다. 이는 분포 외 일반화(out-of-distribution generalization), 단일 샘플 학습(one-shot learning), 다중 모달 생성적 연관(cross-modal generative association), 언어 처리, 보상 기반 학습(reward-based learning) 등 다양한 능력 향상에 기여한다. 스파이크 신경망은 에너지 효율적인 뉴모르픽 하드웨어(neuromorphic hardware)의 기반이 되므로, 본 연구 결과는 강력한 인지적 뉴모르픽 시스템이 이 원리에 기반하여 구현될 수 있음을 시사한다.

히브스 성숙을 통한 스파이크 신경망에서의 메모리 풍부화된 계산 및 학습 | 연구 논문 | HyperAI초신경