HyperAIHyperAI
منذ 2 أشهر

S-TLLR: قاعدة التعلم المحلية الزمنية المستوحاة من STDP لشبكات العصبونات النابضة

Apolinario, Marco Paul E. ; Roy, Kaushik
S-TLLR: قاعدة التعلم المحلية الزمنية المستوحاة من STDP لشبكات العصبونات النابضة
الملخص

الشبكات العصبية ذات النبضات (SNNs) هي نماذج بيولوجية مقبولة تم تحديدها كنماذج محتملة لتنفيذ الذكاء الفعّال من حيث الطاقة على الحواف، خاصةً في مهام التعلم المتتابعة. ومع ذلك، فإن تدريب الشبكات العصبية ذات النبضات يواجه تحديات كبيرة بسبب الحاجة إلى تعيين الائتمان الزمني والمكاني بدقة. يعتبر خوارزمية الرجوع الخلفي عبر الزمن (BPTT) الطريقة الأكثر استخدامًا للتعامل مع هذه القضايا، لكنها تتسبب في زيادة التكلفة الحسابية بسبب اعتمادها على الزمن. في هذا البحث، نقترح قاعدة التعلم المحلية الزمنية ثلاثية العوامل S-TLLR المستوحاة من آلية البلاستيكية المعتمدة على توقيت النبضات (STDP)، وهي موجهة نحو تدريب الشبكات العصبية ذات النبضات العميقة في مهام التعلم القائمة على الأحداث. بالإضافة إلى ذلك، صُممت S-TLLR لتكون ذات تعقيد زمني وذاكرتي منخفض، مستقل عن عدد الخطوات الزمنية، مما يجعلها مناسبة للتعلم المباشر على أجهزة الحافة ذات الطاقة المنخفضة. لبيان قابلية توسيع طريقة المقترحة لدينا، أجرينا تقييمات واسعة النطاق على مجموعات بيانات قائمة على الأحداث تغطي مجموعة متنوعة من التطبيقات مثل التعرف على الصور والحركات، تصنيف الصوت، وتقدير الجريان البصري. وفي جميع التجارب، حققت S-TLLR دقة عالية مشابهة لـ BPTT مع تخفيض في الذاكرة بين 5-50 مرة وفي عمليات الضرب والجمع (MAC) بين 1.3-6.6 مرة.

S-TLLR: قاعدة التعلم المحلية الزمنية المستوحاة من STDP لشبكات العصبونات النابضة | أحدث الأوراق البحثية | HyperAI