11日前

神経形态視覚データセットにおけるSNNとRNNの比較:類似点と相違点

Weihua He, YuJie Wu, Lei Deng, Guoqi Li, Haoyu Wang, Yang Tian, Wei Ding, Wenhui Wang, Yuan Xie
神経形态視覚データセットにおけるSNNとRNNの比較:類似点と相違点
要約

神経形态データは、時空間情報成分およびイベント駆動型処理の特徴から、近年注目を集めている。スパikingニューラルネットワーク(SNNs)は、神経形态計算に適した時空間ダイナミクスを持つイベント駆動型モデルの一種であり、神経形态データ上で広くベンチマークされている。興味深いことに、機械学習分野の研究者らは、SNNとは異なりイベント駆動型ではないにもかかわらず、再帰型(人工)ニューラルネットワーク(RNNs)も時空間特徴を抽出可能であると主張している。このことから、「もしSNNとRNNを神経形态データ上で同時にベンチマークした場合、どのような結果が得られるのか」という問題が浮かび上がるが、現時点では明確な答えが得られていない。本研究では、視覚データセットを事例として、SNNとRNNの神経形态データ上での性能を体系的に比較する。まず、モデル構築および学習の観点から、SNNとRNN(従来型RNNおよびLSTMを含む)の類似点と相違点を明らかにする。比較の公平性と一貫性を高めるため、バックプロパゲーション・スルー・タイム(BPTT)に基づく教師あり学習アルゴリズム、すべての時刻における出力を活用する損失関数、スタッキングされた全結合層または畳み込み層から構成されるネットワーク構造、および学習中のハイパーパラメータを統一する。特に、RNNで一般的に用いられる損失関数を、SNNに近づけるために、率符号化(rate coding)スキームに着想を得て改変した。さらに、データセットの時間分解能を調整することで、モデルのロバスト性および汎化能力を評価する。最終的に、2種類の神経形态データセット(DVS変換によるN-MNISTと、DVSによって直接撮影されたDVS Gesture)を用いて、一連の対比実験を実施した。

神経形态視覚データセットにおけるSNNとRNNの比較:類似点と相違点 | 最新論文 | HyperAI超神経