خلايا عصبية غير خطية ذات تنشيطات مماثلة للإنسان في الشجرة التاجية

لتصنيف البيانات التي لا يمكن فصلها خطيًا، يتم عادةً تنظيم الخلايا العصبية في شبكات عصبية متعددة الطبقات المزودة بطبقة خفية واحدة على الأقل. مستوحى من بعض الاكتشافات الحديثة في علم الأعصاب، نقترح نموذجًا جديدًا للخلية العصبية الاصطناعية، إلى جانب دالة نشاط مبتكرة تتيح تعلُّم الحدود القرار غير الخطية باستخدام خلية واحدة. نُظهر أن خلية قياسية تتبعها دالة النشاط المُستحدثة للغصن القمي (ADA) قادرة على تعلُّم الدالة المنطقية XOR بدقة 100%. علاوةً على ذلك، أجرينا تجارب على ستة مجموعات بيانات معيارية من مجالات الرؤية الحاسوبية ومعالجة الإشارات ومعالجة اللغة الطبيعية، ألا وهي MOROCO، UTKFace، CREMA-D، Fashion-MNIST، Tiny ImageNet، وImageNet، حيث أظهرت دالة ADA ودالة ADA ذات التسرب (leaky ADA) أداءً متفوقًا على وحدات التنشيط التقليدية مثل الوحدات الخطية المُعَدَّلة (ReLU)، وReLU ذات التسرب، والدوال الأساسية ذات الأساس (RBF)، ودالة Swish، في مختلف هياكل الشبكات العصبية، مثل الشبكات العصبية المتعددة الطبقات ذات طبقة خفية واحدة أو طبقتين (MLPs)، والشبكات العصبية التلافيفية (CNNs) مثل LeNet وVGG وResNet وCNN على مستوى الحرف (Character-level CNN). وتم تحقيق تحسينات إضافية في الأداء عند استبدال النموذج القياسي للخلية العصبية بنموذج الخلايا الهرمية ذات النشاط القمي (PyNADA). يُمكن الاطلاع على الكود المصدر لدينا عبر الرابط التالي: https://github.com/raduionescu/pynada.