15日前

適応型スパiking再帰型ニューラルネットワークを用いた高精度かつ効率的な時系列分類

Bojian Yin, Federico Corradi, Sander M. Bohte
適応型スパiking再帰型ニューラルネットワークを用いた高精度かつ効率的な時系列分類
要約

生物学的ニューロンのより詳細なモデル化に着想を得て、スパikingニューラルネットワーク(SNN)は、より生物学的に現実的なニューラル計算モデルとしての可能性と、同時に生物学的ニューロンのエネルギー効率を抽出するという目的からも、広く研究されてきた。しかし、従来の人工ニューラルネットワーク(ANN)と比較して、その性能は依然として劣っていた。本研究では、新たなサロゲート勾配(surrogate gradient)を、調整可能かつ適応可能なスパキングニューロンから構成される再帰型ネットワークと組み合わせることで、時間領域における困難なベンチマーク、たとえば音声認識やジェスチャー認識において、SNNの分野で最先端の性能を達成することを示した。この性能は、標準的な古典的再帰型ニューラルネットワーク(RNN)を上回り、最良の現代的なANNに近づいている。さらに、これらのSNNはスパースなスパッキング(発火)を示すため、同等の性能を発揮するRNNと比較して、理論的に1〜3桁の計算効率の向上が可能であることを明らかにした。これらの成果により、SNNはAIハードウェア実装における魅力的な解決策として位置づけられるようになった。

適応型スパiking再帰型ニューラルネットワークを用いた高精度かつ効率的な時系列分類 | 最新論文 | HyperAI超神経