要約
スパイキングニューラルネットワーク（SNN）をニューロモルフィックコンピューティングデバイス上で再現する関心が高まっている。これは、SNNが低消費電力で動作するためである。最近の進展により、SNNの訓練技術は、従来の人工ニューラルネットワーク（ANN）と比較して精度で競争可能な水準にまで到達しており、同時にニューロモルフィックハードウェア上で実行される際には高いエネルギー効率を発揮している。しかし、SNNの訓練プロセスは、依然としてANN向けに開発された密度型テンソル演算に依拠しており、SNNが持つ時空間的に疎な特性を活かしていない。本研究では、これまでにない疎なSNNバックプロパゲーションアルゴリズムを提案する。この手法は、現在の最先端手法と同等またはそれ以上の精度を達成しつつ、著しく高速かつメモリ効率が優れている。我々は、ファッション-MNIST、ニューロモルフィック-MNIST、スパイキング・ハイデルベルク・ディジット（Spiking Heidelberg Digits）といった多様な複雑性を持つ実データセット上で本手法の有効性を検証した。その結果、逆伝搬（backward pass）において最大150倍の高速化と、85％のメモリ効率の向上を達成しつつ、精度の低下を生じさせないことを示した。