التهيئة المُشَوَّشَة لتدريب الشبكات العصبية الشوكيّة

الشبكات العصبية المُشَبِّكة (SNNs) تُشكّل الأساس لمعالجة المعلومات منخفضة الطاقة ومقاومة الأعطال في الدماغ، ويمكن أن تمثل بديلًا فعّالًا من حيث استهلاك الطاقة للشبكات العصبية العميقة التقليدية عند تنفيذها على مسرّعات هاردوير عصبية مُصمّمة خصيصًا. ومع ذلك، لا يزال تطبيق شبكات SNN التي تحل مهام حسابية معقدة داخل الحاسوب (in-silico) يُمثّل تحديًا كبيرًا. ظهرت تقنيات "المُدرج الظاهري" (SG) كحل قياسي لتدريب SNNs بطريقة نهاية-إلى-نهاية، لكن نجاحها يعتمد على تهيئة الأوزان السينابسية الابتدائية، تمامًا كما هو الحال في الشبكات العصبية الاصطناعية التقليدية (ANNs). ومع ذلك، على عكس الوضع في الشبكات الاصطناعية، لا يزال غير واضح ما يُعدّ حالة ابتدائية جيدة لشبكة SNN. في هذا العمل، نطوّر استراتيجية تهيئة عامة للشبكات SNN مستوحاة من الحالة المُتَوَقّعة غالبًا في الدماغ، تُعرف بحالة التذبذب المُحفِّز (fluctuation-driven regime). وبشكل خاص، نستنتج حلولًا عملية لتوزيع الأوزان الابتدائية المعتمدة على البيانات، والتي تضمن تفعيلًا يعتمد على التذبذبات في الوحدات العصبية الشائعة جدًا المعروفة بـ "الاندماج والتفعيل المُتسرب" (LIF). ونُظهِر تجريبيًا أن الشبكات SNN التي تُهَيَّأُ وفقًا لاستراتيجيتنا تُظهر أداءً تعليميًا متفوّقًا عند تدريبها باستخدام المُدرج الظاهري. وتتّسِم هذه النتائج بالعامة عبر عدة مجموعات بيانات وبنية للشبكات SNN، بما في ذلك الشبكات المتصلة بالكامل، والشبكات العميقة ذات التحويلات التلافيفية، والشبكات التكرارية، بالإضافة إلى شبكات SNN أكثر واقعية بيولوجيًا التي تتبع قانون دال (Dale’s law). وبالتالي، تُقدّم التهيئة القائمة على التذبذب المُحفِّز استراتيجية عملية ومتعددة الاستخدامات وسهلة التنفيذ لتحسين أداء تدريب الشبكات SNN في مهام متنوعة ضمن مجالات الهندسة العصبية وعلم الأعصاب الحاسوبي.