Sneaky Spikes : Découverte d'attaques backdoor subtils dans les réseaux neuronaux à impulsions utilisant des données neuromorphiques

Les réseaux de neurones profonds (DNN) ont démontré des performances remarquables dans diverses tâches, notamment la reconnaissance d’images et de parole. Toutefois, pour maximiser leur efficacité, une optimisation minutieuse de nombreux hyperparamètres et paramètres du réseau s’impose au cours de l’entraînement. En outre, les DNN à haute performance comportent un grand nombre de paramètres, ce qui entraîne une consommation énergétique importante durant l’entraînement. Afin de relever ces défis, les chercheurs se tournent vers les réseaux de neurones à impulsions (SNN), qui offrent une efficacité énergétique accrue et des capacités de traitement de données biologiquement plausibles, les rendant particulièrement adaptés aux tâches impliquant des données sensorielles, notamment dans le domaine neuromorphique. Malgré leurs avantages, les SNN, tout comme les DNN, sont sensibles à diverses menaces, notamment les exemples adverses et les attaques par porte arrière. Pourtant, le domaine des SNN reste largement sous-exploré en ce qui concerne la compréhension et la défense contre ces attaques.Ce papier s’intéresse en profondeur aux attaques par porte arrière dans les SNN, en utilisant des jeux de données neuromorphiques et des déclencheurs variés. Plus précisément, nous explorons des déclencheurs de porte arrière intégrés aux données neuromorphiques, capables de modifier leur position et leur couleur, offrant ainsi une portée bien plus large que les déclencheurs classiques utilisés dans des domaines comme l’image. Nous proposons plusieurs stratégies d’attaque, atteignant un taux de succès pouvant atteindre 100 % tout en préservant une influence négligeable sur la précision des données propres (clean accuracy). Par ailleurs, nous évaluons la discrétion de ces attaques, révélant que nos attaques les plus efficaces possèdent des capacités de discrétion significatives. Enfin, nous adaptons plusieurs défenses de pointe issues du domaine des images, évaluons leur efficacité sur des données neuromorphiques, et mettons en évidence des cas où elles se révèlent insuffisantes, entraînant une dégradation des performances.