Reduzierung Ihrer Zeitdistanz: Auf dem Weg zu niedrig-latenten neuromorphen Objekterkennung mit Spiking Neural Networks

Die neuromorphe Objekterkennung mit Spiking Neural Networks (SNNs) bildet die Grundlage des energieeffizienten neuromorphen Rechnens. Bestehende SNNs leiden jedoch unter erheblichen Verzögerungen und benötigen 10 bis 40 Zeitschritte oder mehr, um neuromorphe Objekte zu erkennen. Bei geringen Verzögerungen verschlechtert sich die Leistung der bestehenden SNNs drastisch. In dieser Arbeit schlagen wir das Shrinking SNN (SSNN) vor, um eine niedrigverzögerte neuromorphe Objekterkennung ohne Leistungsverlust zu erreichen. Konkret reduzieren wir die zeitliche Redundanz in SNNs, indem wir sie in mehrere Stufen aufteilen, bei denen die Zeitschritte schrittweise verkürzt werden, was die Inferenzverzögerung erheblich verringert. Während der Verkürzung der Zeitschritte transformiert der temporale Transformer den zeitlichen Maßstab glatt und bewahrt die Information maximal. Des Weiteren fügen wir während des Trainings mehrere Frühklassifizierer hinzu, um den Unterschied zwischen dem Ersatzgradienten und dem wahren Gradienten sowie das Verschwinden/Explodieren von Gradients zu mildern, wodurch die Leistungsverschlechterung bei geringer Verzögerung beseitigt wird. Umfangreiche Experimente auf neuromorphen Datensätzen wie CIFAR10-DVS, N-Caltech101 und DVS-Gesture haben gezeigt, dass SSNN die Basisgenauigkeit um 6,55% bis 21,41% verbessern kann. Mit nur fünf durchschnittlichen Zeitschritten und ohne jegliche Datenverstärkung erreicht SSNN eine Genauigkeit von 73,63% auf CIFAR10-DVS. Diese Arbeit präsentiert ein heterogenes temporales Skalierungssystem für SNNs und bietet wertvolle Einblicke in die Entwicklung hochleistungsfähiger, niedrigverzögerter SNNs.