スパイキー・スパイク：神経形态データを用いたスパikingニューラルネットワークにおける隠密なバックドア攻撃の解明

深層ニューラルネットワーク（DNN）は、画像認識や音声認識など多岐にわたるタスクにおいて優れた性能を示している。しかし、DNNの効果を最大化するためには、学習を通じて多数のハイパラメータおよびネットワークパラメータを細心の注意をもって最適化する必要がある。さらに、高性能なDNNは多くのパラメータを有するため、学習過程で大きなエネルギーを消費するという課題を抱えている。こうした課題を克服するため、研究者たちはエネルギー効率が高く、生物学的に現実的なデータ処理を可能にするスパイキングニューラルネットワーク（SNN）に注目している。SNNは、特に神経形態的（neuromorphic）データ処理において、センサリデータ処理に極めて適している。しかし、SNNもDNNと同様に、敵対的例やバックドア攻撃といったさまざまな脅威にさらされている。現状、SNNにおけるこうした攻撃の理解および防御策の開発はまだ十分に進んでいない。本研究では、神経形態的データセットを用いてSNNにおけるバックドア攻撃を検討し、多様なトリガーを検証する。特に、ニューロモルフィックデータ内に埋め込まれるバックドアトリガーの位置や色を操作可能な手法を提案することで、従来の画像分野におけるトリガーと比較して、より広範な攻撃可能性を実現している。本研究では、さまざまな攻撃戦略を提示し、クリーンな精度にほとんど影響を与えない状態で、攻撃成功率を最大100％まで達成している。さらに、攻撃の隠蔽性（stealthiness）を評価した結果、最も強力な攻撃においても顕著な隠蔽性が確認された。最後に、画像分野で最先端の防御手法をいくつか適応し、神経形態的データに対する効果を評価したが、その結果、一部の防御手法が十分な効果を発揮しないケースが確認され、性能の低下を引き起こすことが明らかになった。