15日前
現在電流ベースおよびゲーティングアプローチを用いた、精度およびエネルギー効率に優れたスパイキング再帰型ニューラルネットワークの検討
{Alexandre Valentian & Lorena Anghel, Thomas Mesquida, Manon Dampfhoffer}
要約
スパイクベースの計算および通信を特徴とするスパイキングニューラルネットワーク(SNNs)は、埋め込み応用において人工ニューラルネットワーク(ANNs)よりもエネルギー効率が高くなる可能性がある。しかし、SNNsはこれまで主に画像処理に応用されてきた一方で、音声処理はその時間的ダイナミクスとより適合する可能性がある。本研究では、リーキー・インテグレート・アンド・ファイア(LIF)モデルがスパイク音声データセット上でANNsと比較して、精度およびエネルギー効率の観点から評価されている。その結果、時間的系列の処理において、電流ベースのLIF(Cuba-LIF)が従来のLIFモデルを上回ることを示した。さらに、ゲート付き再帰型ネットワークは単純な再帰型ネットワークに比べて、このようなタスクにおいて優れた精度を示すことが明らかになった。そこで本研究では、Cuba-LIFのゲート付きバージョンであるSpikGRUを提案する。SpikGRUは、本研究で検討された最も困難なタスクにおいて、他の再帰型SNNよりも高い精度を達成した。Cuba-LIFおよびSpikGRUは、最も優れたANNsの精度に対して1.1%未満の差にとどまり、状態最良の精度を達成している一方で、スパイクの高いスパース性により、ANNsと比較して処理演算回数が最大49倍削減されている。