HyperAIHyperAI
il y a 15 jours

Entraînement robuste et accéléré des réseaux neuronaux à impulsions monocoup avec application à des tâches temporelles exigeantes

Luke Taylor, Andrew King, Nicol Harper
Entraînement robuste et accéléré des réseaux neuronaux à impulsions monocoup avec application à des tâches temporelles exigeantes
Résumé

Les réseaux neuronaux à impulsions (SNNs), en particulier la variante à impulsion unique où chaque neurone ne peut émettre qu’une seule impulsion, sont nettement plus économes en énergie que les réseaux neuronaux artificiels standards (ANNs). Toutefois, les SNNs à impulsion unique sont difficiles à entraîner en raison de leur nature dynamique et non différentiable, les approches actuelles étant soit lentes, soit sujettes à des instabilités d’entraînement. Ces réseaux ont également été critiqués pour leur application computationnelle limitée, notamment leur inadéquation aux jeux de données séries temporelles. Nous proposons un nouveau modèle d’entraînement pour les SNNs à impulsion unique, qui atténue les problèmes d’entraînement mentionnés et obtient des résultats compétitifs sur divers jeux de données d’images et neuromorphiques, avec un accélération d’entraînement allant jusqu’à 13,98 fois et une réduction pouvant atteindre 81 % du nombre d’impulsions par rapport aux SNNs à plusieurs impulsions. Notamment, notre modèle atteint des performances comparables aux SNNs à plusieurs impulsions sur des tâches exigeantes impliquant des jeux de données neuromorphiques séries temporelles, démontrant ainsi un rôle computationnel plus large pour les SNNs à impulsion unique qu’on ne le croyait auparavant.

Entraînement robuste et accéléré des réseaux neuronaux à impulsions monocoup avec application à des tâches temporelles exigeantes | Articles de recherche récents | HyperAI