تغطية نشاط العصبون: إعادة التفكير في الكشف عن التوزيعات غير الموزونة والتعميم

يظهر مشكلة البيانات خارج التوزيع (OOD) عادةً عندما تواجه الشبكات العصبية بيانات تختلف بشكل كبير عن توزيع البيانات المستخدمة في التدريب، أي البيانات ضمن التوزيع (InD). في هذه الورقة، ندرس مشكلة OOD من منظور تفعيل العصبونات. نقوم أولاً بصياغة حالات تفعيل العصبونات من خلال أخذ كل من مخرجات العصبون وتأثيرها على قرارات النموذج بعين الاعتبار. ثم، لوصف العلاقة بين العصبونات ومشكلات OOD، نقدم مقياسًا بسيطًا يُسمى \textit{تغطية تفعيل العصبونات} (NAC) – وهو مقياس لسلوك العصبونات تحت بيانات التوزيع الداخلي (InD). باستخدام مقياس NAC، نُظهر أن: 1) يمكن فصل المدخلات ضمن التوزيع (InD) عن المدخلات خارج التوزيع (OOD) إلى حد كبير بناءً على سلوك العصبونات، مما يُخفّف بشكل كبير من صعوبة كشف OOD، ويتفوق على 21 طريقة سابقة على ثلاث معايير (CIFAR-10، CIFAR-100، وImageNet-1K). 2) توجد علاقة ارتباط إيجابية مستمرة بين NAC وقدرة النموذج على التعميم عبر مختلف الهياكل والبيانات، مما يتيح استخدام معيار مبني على NAC لتقييم مرونة النموذج. مقارنةً بالمعايير الشائعة لتقييم البيانات ضمن التوزيع (InD)، نُظهر أن NAC لا يُمكنه فقط اختيار نماذج أكثر مرونة، بل يمتلك أيضًا ارتباطًا أقوى بأداء النموذج في اختبارات OOD.