تعلم الخرائط المعرفية باستخدام الأبواب الباقية

نقترح تصميم طبقة جديدًا بإضافة آلية تحكم خطي إلى الاتصالات القصيرة. من خلال استخدام معلمة قياسية لتحكم كل بوابة، نوفر طريقة لتعلم الخرائط المتطابقة عن طريق تحسين معلمة واحدة فقط. نعتمد على الدافع وراء شبكات البقايا (Residual Networks)، حيث يتم إعادة صياغة الطبقة لجعل تعلم الخرائط المتطابقة أقل مشكلة للمُحسِّن. يُدخل التعزيز معلمة إضافية واحدة لكل طبقة، ويُسهل التحسين من خلال جعل الانحلال إلى الخرائط المتطابقة أبسط. نقترح نموذجًا جديدًا هو شبكة البقايا المحكمة (Gated Residual Network)، وهو النتيجة عند تعزيز شبكات البقايا. تظهر النتائج التجريبية أن تعزيز الطبقات يوفر تحسينًا أفضل، وأداءً أعلى، واستقلالية أكبر للطبقات. نقيم طريقتنا على MNIST باستخدام الشبكات المتصلة بالكامل، مما يدل على مؤشرات عملية أن تعزيزنا يسهل تحسين النماذج العميقة، وأنه يوفر تحملًا عاليًا لإزالة الطبقات بالكامل: يحتفظ النموذج بأكثر من 90% من أدائه حتى بعد إزالة نصف طبقاته بشكل عشوائي. كما نقيم نموذجنا على CIFAR-10 وCIFAR-100 باستخدام شبكات ResNets الواسعة المحكمة، حيث حققنا نسبة خطأ بلغت 3.65% و18.27% على التوالي.