17日前
畳み込み型スパikingニューラルネットワークにおけるスパイク時刻変位に基づく誤差逆伝播法
Maryam Mirsadeghi, Majid Shalchian, Saeed Reza Kheradpisheh, Timothée Masquelier

要約
最近、我々は、単一スパイクに基づく時間符号化を用いた多層スパイキングニューラルネットワーク(SNN)の学習に向け、逆方向の再帰的勾配計算を回避するSTiDi-BPアルゴリズムを提案した。このアルゴリズムは、膜電位に対するスパイク遅延の微分を線形近似によって計算し、分段線形の後突触電位を有するスパイキングニューロンを用いることで、計算コストおよびニューロン処理の複雑さを低減している。本論文では、このSTiDi-BPアルゴリズムをより深い構造および畳み込み型アーキテクチャに拡張し、適用可能かどうかを検証した。MNISTおよびFashion-MNISTという2つの代表的なベンチマークデータセットを用いた画像分類タスクにおける評価結果から、それぞれ99.2%および92.8%の精度が達成され、本アルゴリズムが深層SNNにおける有効性を確認した。また、メモリ使用量および計算コストの低減という点についても検討した。そのために、逆伝播時に更新される実数値重みと、順伝播時に用いられる符号(バイナリ)重みの2種類の重みを有する畳み込み型SNN(CSNN)を提案した。MNISTおよびFashion-MNISTの2つのデータセット上でバイナリCSNNを評価した結果、実数値重みを用いた場合と比較して、精度の低下はそれぞれ約0.6%および0.8%と極めて小さく、実用的な性能が得られた。