HyperAIHyperAI
منذ 15 أيام

استكشاف النهج القائمة على التيار والنهج القائمة على التفعيل لشبكات عصبية دورية ذات نبضات دقيقة وكفؤة من حيث الطاقة

{Alexandre Valentian & Lorena Anghel, Thomas Mesquida, Manon Dampfhoffer}
الملخص

قد تكون الشبكات العصبية ذات التفريغ (SNNs) التي تعتمد على الحسابات والاتصالات القائمة على التفريغ أكثر كفاءة من حيث استهلاك الطاقة مقارنة بالشبكات العصبية الاصطناعية (ANNs) في التطبيقات المدمجة. ومع ذلك، تم تطبيق SNNs بشكل رئيسي على معالجة الصور، رغم أن التطبيقات الصوتية قد تكون أكثر ملاءمة لديناميكيات الزمن التي تميزها. نقوم في هذه الدراسة بتقييم دقة وكفاءة الطاقة لنماذج التكامل والتفريغ المُتَسَلِّل (LIF) على مجموعات بيانات صوتية ذات تفريغ، مقارنة بالـ ANNs. ونُظهر أن نموذج LIF القائم على التيار (Cuba-LIF) يتفوق على LIF التقليدي عند معالجة التسلسلات الزمنية. علاوةً على ذلك، أظهرت الشبكات المتكررة ذات البوابات (gated recurrent networks) دقة أعلى من الشبكات المتكررة البسيطة في هذه المهام. لذلك، نُقدّم SpikGRU، وهو نموذج متكرر مُحَدَّث لـ Cuba-LIF يعتمد على بوابات. وتُحقّق SpikGRU دقة أعلى من غيرها من الشبكات العصبية المتكررة ذات التفريغ في المهمة الأصعب التي تم دراستها في هذه الدراسة. وتُظهر نماذج Cuba-LIF وSpikGRU دقة تصل إلى مستوى الحد الأقصى المُسجّل في الأبحاث الحالية، حيث تقل دقتها عن أفضل نماذج الـ ANNs بأقل من 1.1٪، مع تحقيق خفض يصل إلى 49 مرة في عدد العمليات مقارنة بالـ ANNs، وذلك بفضل الكثافة العالية للتفريغ (spike sparsity).

استكشاف النهج القائمة على التيار والنهج القائمة على التفعيل لشبكات عصبية دورية ذات نبضات دقيقة وكفؤة من حيث الطاقة | أحدث الأوراق البحثية | HyperAI