Genau und effiziente zeitdomänenbasierte Klassifikation mit adaptiven spiking rekurrenten neuronalen Netzen

Angeregt durch eine detailliertere Modellierung biologischer Neuronen wurden spiking neural networks (SNNs) als biologisch plausiblere und potenziell leistungsfähigere Modelle der neuronalen Verarbeitung untersucht, wobei zudem das Ziel verfolgt wurde, die Energieeffizienz biologischer Neuronen zu übertragen. Die Leistungsfähigkeit solcher Netzwerke blieb jedoch im Vergleich zu klassischen künstlichen neuronalen Netzen (ANNs) bisher hinter den Erwartungen zurück. Hier zeigen wir, wie ein neuartiger Surrogatgradient in Kombination mit rekurrenten Netzwerken aus einstellbaren und adaptiven spikingen Neuronen State-of-the-Art-Leistungen für SNNs auf anspruchsvollen zeitbasierten Benchmark-Aufgaben wie Spracherkennung und Gestenerkennung erzielt. Diese Leistung übertrifft zudem die von herkömmlichen rekurrenten neuronalen Netzen (RNNs) und nähert sich der von modernsten ANNs an. Da diese SNNs eine spärliche Spike-Aktivität aufweisen, zeigen wir theoretisch, dass sie gegenüber RNNs mit vergleichbarer Leistung um eine bis drei Größenordnungen rechnerisch effizienter sind. Zusammen stellen diese Ergebnisse SNNs als eine vielversprechende Lösung für die Implementierung künstlicher Intelligenz in Hardware dar.