Classification dans le domaine temporel précise et efficace à l’aide de réseaux de neurones récurrents à déclenchement adaptatif

Inspirées par une modélisation plus fine des neurones biologiques, les réseaux neuronaux à impulsions (SNNs) ont été étudiés à la fois comme des modèles de calcul neuronal plus plausibles du point de vue biologique et potentiellement plus puissants, ainsi qu’en vue d’extraire l’efficacité énergétique des neurones biologiques. Toutefois, leurs performances sont restées inférieures à celles des réseaux neuronaux artificiels classiques (ANNs). Dans cette étude, nous démontrons comment une nouvelle fonction de gradient approximatif, combinée à des réseaux récurrents de neurones à impulsions réglables et adaptatifs, permet d’atteindre l’état de l’art pour les SNNs sur des benchmarks exigeants dans le domaine temporel, tels que la reconnaissance vocale et la reconnaissance de gestes. Ces résultats dépassent également les performances des réseaux récurrents classiques (RNNs) standard et s’approchent de celles des meilleurs ANN modernes. Étant donné que ces SNNs présentent un taux d’activité d’impulsions faible (sparse spiking), nous montrons théoriquement qu’ils sont d’un à trois ordres de grandeur plus efficaces sur le plan computationnel que les RNNs offrant des performances comparables. Ces résultats positionnent ainsi les SNNs comme une solution particulièrement attrayante pour les implémentations matérielles d’intelligence artificielle.