HyperAIHyperAI

Command Palette

Search for a command to run...

スパーススパーキング勾配降下法

Nicolas Perez-Nieves Dan F.M. Goodman

概要

スパイキングニューラルネットワーク(SNN)をニューロモルフィックコンピューティングデバイス上で再現する関心が高まっている。これは、SNNが低消費電力で動作するためである。最近の進展により、SNNの訓練技術は、従来の人工ニューラルネットワーク(ANN)と比較して精度で競争可能な水準にまで到達しており、同時にニューロモルフィックハードウェア上で実行される際には高いエネルギー効率を発揮している。しかし、SNNの訓練プロセスは、依然としてANN向けに開発された密度型テンソル演算に依拠しており、SNNが持つ時空間的に疎な特性を活かしていない。本研究では、これまでにない疎なSNNバックプロパゲーションアルゴリズムを提案する。この手法は、現在の最先端手法と同等またはそれ以上の精度を達成しつつ、著しく高速かつメモリ効率が優れている。我々は、ファッション-MNIST、ニューロモルフィック-MNIST、スパイキング・ハイデルベルク・ディジット(Spiking Heidelberg Digits)といった多様な複雑性を持つ実データセット上で本手法の有効性を検証した。その結果、逆伝搬(backward pass)において最大150倍の高速化と、85%のメモリ効率の向上を達成しつつ、精度の低下を生じさせないことを示した。


AIでAIを構築

アイデアからローンチまで — 無料のAIコーディング支援、すぐに使える環境、最高のGPU価格でAI開発を加速。

AI コーディング補助
すぐに使える GPU
最適な料金体系

HyperAI Newsletters

最新情報を購読する
北京時間 毎週月曜日の午前9時 に、その週の最新情報をメールでお届けします
メール配信サービスは MailChimp によって提供されています
スパーススパーキング勾配降下法 | 記事 | HyperAI超神経