
摘要
脉冲神经网络(SNNs)是一种生物学上合理的模型,被认为是适用于在边缘设备部署能效智能的潜在方法,特别是在顺序学习任务中。然而,由于需要精确的时间和空间信用分配,SNNs 的训练面临着显著的挑战。尽管时间反向传播(BPTT)算法是最广泛使用的方法来解决这些问题,但由于其时间依赖性,该算法会产生较高的计算成本。在这项工作中,我们提出了一种新颖的三因子时域局部学习规则——S-TLLR,该规则受到脉冲时序依赖可塑性(STDP)机制的启发,旨在对基于事件的学习任务中的深层 SNNs 进行训练。此外,S-TLLR 被设计为具有低内存和时间复杂度,且这些复杂度与时间步数无关,使其适合在低功耗边缘设备上进行在线学习。为了展示我们所提出方法的可扩展性,我们在涵盖广泛应用领域的基于事件的数据集上进行了广泛的评估,包括图像识别、手势识别、音频分类和光流估计。在所有实验中,S-TLLR 均实现了高精度,与 BPTT 相当,并且在内存使用方面减少了 5-50 倍,在乘积累加(MAC)操作方面减少了 1.3-6.6 倍。