الأهمية المبنية على التباين للميزات في الشبكات العصبية

يُقدّم هذا البحث منهجًا جديدًا لقياس الأهمية النسبية للميزات في نماذج الشبكات العصبية الاصطناعية (ANN). ويعتمد المبدأ الأساسي لهذا المنهج على افتراض أن الميزة الأكثر أهمية هي التي تتغير أوزانها المرتبطة بالعصبون المدخل (input neuron) المرتبط بها بشكل أكبر خلال عملية تدريب النموذج. ولالتقاط هذا السلوك، يتم قياس الانحراف المعياري التراكمي لكل وزن متصل بطبقة المدخلات أثناء التدريب. ولتحقيق ذلك، يُقترح تعديل خوارزمية ويلفورد (Welford’s online algorithm) لحساب الانحراف المعياري على النحو الزمني. وبعد انتهاء عملية التدريب، يتم دمج الانحرافات الخاصة بالأوزان مع الأوزان النهائية لكل مدخل، بهدف الحصول على قياس الأهمية النسبية لكل ميزة. وقد تم اختبار هذا المنهج على هياكل شبكات عصبية عميقة وسطحة (shallow and deep neural network architectures) في عدة مسائل معروفة في التصنيف والانحدار. وأظهرت النتائج أن هذا النهج يُعطي قياسات ذات معنى. علاوةً على ذلك، أظهرت النتائج ارتباطًا عالٍ بين درجات الأهمية الناتجة من هذا المنهج ونتائج طريقة الأهمية المتغيرة في خوارزمية الغابات العشوائية (Random Forests - RF).