HyperAIHyperAI

Command Palette

Search for a command to run...

Entraînement robuste et accéléré des réseaux neuronaux à impulsions monocoup avec application à des tâches temporelles exigeantes

Luke Taylor Andrew King Nicol Harper

Résumé

Les réseaux neuronaux à impulsions (SNNs), en particulier la variante à impulsion unique où chaque neurone ne peut émettre qu’une seule impulsion, sont nettement plus économes en énergie que les réseaux neuronaux artificiels standards (ANNs). Toutefois, les SNNs à impulsion unique sont difficiles à entraîner en raison de leur nature dynamique et non différentiable, les approches actuelles étant soit lentes, soit sujettes à des instabilités d’entraînement. Ces réseaux ont également été critiqués pour leur application computationnelle limitée, notamment leur inadéquation aux jeux de données séries temporelles. Nous proposons un nouveau modèle d’entraînement pour les SNNs à impulsion unique, qui atténue les problèmes d’entraînement mentionnés et obtient des résultats compétitifs sur divers jeux de données d’images et neuromorphiques, avec un accélération d’entraînement allant jusqu’à 13,98 fois et une réduction pouvant atteindre 81 % du nombre d’impulsions par rapport aux SNNs à plusieurs impulsions. Notamment, notre modèle atteint des performances comparables aux SNNs à plusieurs impulsions sur des tâches exigeantes impliquant des jeux de données neuromorphiques séries temporelles, démontrant ainsi un rôle computationnel plus large pour les SNNs à impulsion unique qu’on ne le croyait auparavant.


Créer de l'IA avec l'IA

De l'idée au lancement — accélérez votre développement IA avec le co-codage IA gratuit, un environnement prêt à l'emploi et le meilleur prix pour les GPU.

Codage assisté par IA
GPU prêts à l’emploi
Tarifs les plus avantageux

HyperAI Newsletters

Abonnez-vous à nos dernières mises à jour
Nous vous enverrons les dernières mises à jour de la semaine dans votre boîte de réception à neuf heures chaque lundi matin
Propulsé par MailChimp