2 个月前

一种用于脉冲神经网络的突触阈值协同学习方法

Sun, Hongze ; Cai, Wuque ; Yang, Baoxin ; Cui, Yan ; Xia, Yang ; Yao, Dezhong ; Guo, Daqing
一种用于脉冲神经网络的突触阈值协同学习方法
摘要

脉冲神经网络(SNNs)在各种智能场景中展示了卓越的能力。现有的大多数SNN训练方法都基于突触可塑性的概念;然而,真实大脑中的学习过程还利用了神经元的内在非突触机制。生物神经元的脉冲阈值是一个关键的内在神经元特征,它在毫秒时间尺度上表现出丰富的动态变化,并被提议作为促进神经信息处理的潜在机制。在这项研究中,我们开发了一种新的协同学习方法,该方法同时训练SNN中的突触权重和脉冲阈值。通过突触-阈值协同学习(Synapse-Threshold Synergistic Learning, STL-SNNs)训练的SNN在各种静态和类脑数据集上的表现显著优于通过两种退化的单一学习模型训练的SNN。在训练过程中,协同学习方法优化了神经元的阈值,通过适当的放电率提供了网络稳定的信号传输。进一步分析表明,STL-SNN对噪声数据具有较强的鲁棒性,并且对于深层网络结构表现出较低的能量消耗。此外,引入一种广义联合决策框架可以进一步提高STL-SNN的性能。总体而言,我们的研究结果表明,突触和内在非突触机制之间生物学上合理的协同作用可能为开发高效的SNN学习方法提供一条有前景的途径。

一种用于脉冲神经网络的突触阈值协同学习方法 | 最新论文 | HyperAI超神经