2ヶ月前
A Synapse-Threshold Synergistic Learning Approach for Spiking Neural Networks スパイキングニューラルネットワークのシナプス-閾値協調学習アプローチ
Sun, Hongze ; Cai, Wuque ; Yang, Baoxin ; Cui, Yan ; Xia, Yang ; Yao, Dezhong ; Guo, Daqing

要約
スパイキングニューラルネットワーク(SNNs)は、さまざまな知能シナリオにおいて優れた能力を示しています。SNNsの既存の訓練方法の多くは、シナプス可塑性の概念に基づいていますが、現実的な脳での学習は神経細胞の固有の非シナプスメカニズムも利用します。生物的神経細胞のスパイク閾値は、ミリ秒スケールで豊かな動態を示す重要な固有神経特性であり、神経情報処理を促進する基盤となるメカニズムとして提案されています。本研究では、シナプス重みとスパイク閾値を同時に訓練する新しい協調学習アプローチを開発しました。この協調学習アプローチで訓練されたSNNs(STL-SNNs)は、2つの退化した単一学習モデルで訓練されたSNNsよりも、静的なデータセットやニューモルフィックデータセットで著しく優れた性能を達成しています。訓練中、協調学習アプローチは神経閾値を最適化し、適切な発火率によりネットワークに安定した信号伝送を提供します。さらに分析した結果、STL-SNNsはノイジーなデータに対して堅牢性を持ち、深層ネットワーク構造でも低消費電力であることが明らかになりました。また、一般化された共同決定フレームワークを導入することで、STL-SNNの性能がさらに向上することが示されました。全体的に見て、我々の研究結果はシナプスと固有の非シナプスメカニズム間の生物学的に妥当な協調が、非常に効率的なSNN学習手法を開発する有望なアプローチであることを示唆しています。