كشف التوزيعات غير الموزعة بناءً على تذكّر أنماط البيانات الموزعة داخليًا باستخدام طاقة هوبفيلد الحديثة

كشف البيانات الخارجة عن التوزيع (OOD) يُعد أمرًا ضروريًا في التطبيقات الحساسة للسلامة التي تعتمد على الشبكات العصبية العميقة. يُعد كشف OOD تحديًا كبيرًا، نظرًا لأن النماذج العصبية العميقة (DNN) قد تُنتج قيمًا عالية جدًا في المخرجات (logits) حتى بالنسبة للبيانات الخارجة عن التوزيع. وبالتالي، يصبح من الصعب جدًا التمييز بين البيانات الخارجة عن التوزيع باستخدام دالة Softmax مباشرةً كمقياس لدرجة الثقة. بخلاف ذلك، نستخدم في هذا العمل طاقة هوبفيلد (Hopfield energy) للكشف عن البيانات الخارجة عن التوزيع، وذلك ضمن نموذج "احفظ ثم قارن" (store-then-compare). وبشكل أدق، تُعتبر مخرجات الطبقة السابقة الأخيرة (penultimate layer) الخاصة بمجموعة التدريب تمثيلات للبيانات الداخلة ضمن التوزيع (ID). وبالتالي، يمكن تحويل هذه المخرجات إلى أنماط مخزنة تُستخدم كنقاط مرجعية لقياس الفرق بين البيانات غير المرئية، بهدف كشف OOD. بالاعتماد على دالة الطاقة المعرفة في الشبكة العصبية الحديثة لـ Hopfield لحساب درجة التباين، نُشتق نسخة مبسطة تُسمى SHE، مع تحليل نظري مُفصّل. في نموذج SHE، نستخدم نمطًا واحدًا فقط لتمثيل كل فئة، ويمكن الحصول على هذه الأنماط ببساطة من خلال حساب المتوسط الحسابي لمخرجات الطبقة السابقة الأخيرة للعينات التدريبية التي تنتمي إلى كل فئة. يتم يتمتع SHE بمزايا مثل عدم الحاجة إلى ضبط المعاملات (hyperparameter-free) وكفاءة حسابية عالية. أظهرت تقييمات على تسع مجموعات بيانات OOD شائعة الاستخدام أداءً واعدًا لهذا النهج البسيط والفعّال، متفوّقًا على النماذج الرائدة في مجالها. يمكن الوصول إلى الكود من خلال الرابط التالي: https://github.com/zjs975584714/SHE-ood-detection.