HyperAIHyperAI

Command Palette

Search for a command to run...

كشف التوزيعات غير الموزعة بناءً على تذكّر أنماط البيانات الموزعة داخليًا باستخدام طاقة هوبفيلد الحديثة

Dongmei Zhang Shi Han Xiaoguang Liu Gang Wang Zelin Li Lun Du Xu Chen Qiang Fu Jinsong Zhang

الملخص

كشف البيانات الخارجة عن التوزيع (OOD) يُعد أمرًا ضروريًا في التطبيقات الحساسة للسلامة التي تعتمد على الشبكات العصبية العميقة. يُعد كشف OOD تحديًا كبيرًا، نظرًا لأن النماذج العصبية العميقة (DNN) قد تُنتج قيمًا عالية جدًا في المخرجات (logits) حتى بالنسبة للبيانات الخارجة عن التوزيع. وبالتالي، يصبح من الصعب جدًا التمييز بين البيانات الخارجة عن التوزيع باستخدام دالة Softmax مباشرةً كمقياس لدرجة الثقة. بخلاف ذلك، نستخدم في هذا العمل طاقة هوبفيلد (Hopfield energy) للكشف عن البيانات الخارجة عن التوزيع، وذلك ضمن نموذج "احفظ ثم قارن" (store-then-compare). وبشكل أدق، تُعتبر مخرجات الطبقة السابقة الأخيرة (penultimate layer) الخاصة بمجموعة التدريب تمثيلات للبيانات الداخلة ضمن التوزيع (ID). وبالتالي، يمكن تحويل هذه المخرجات إلى أنماط مخزنة تُستخدم كنقاط مرجعية لقياس الفرق بين البيانات غير المرئية، بهدف كشف OOD. بالاعتماد على دالة الطاقة المعرفة في الشبكة العصبية الحديثة لـ Hopfield لحساب درجة التباين، نُشتق نسخة مبسطة تُسمى SHE، مع تحليل نظري مُفصّل. في نموذج SHE، نستخدم نمطًا واحدًا فقط لتمثيل كل فئة، ويمكن الحصول على هذه الأنماط ببساطة من خلال حساب المتوسط الحسابي لمخرجات الطبقة السابقة الأخيرة للعينات التدريبية التي تنتمي إلى كل فئة. يتم يتمتع SHE بمزايا مثل عدم الحاجة إلى ضبط المعاملات (hyperparameter-free) وكفاءة حسابية عالية. أظهرت تقييمات على تسع مجموعات بيانات OOD شائعة الاستخدام أداءً واعدًا لهذا النهج البسيط والفعّال، متفوّقًا على النماذج الرائدة في مجالها. يمكن الوصول إلى الكود من خلال الرابط التالي: https://github.com/zjs975584714/SHE-ood-detection.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp