HyperAIHyperAI
منذ 11 أيام

GEN: دفع حدود ك detec tion الموزعة خارج النطاق القائمة على Softmax

{Christopher Zach, Yaroslava Lochman, Xixi Liu}
GEN: دفع حدود ك detec tion الموزعة خارج النطاق القائمة على Softmax
الملخص

تم دراسة كشف التوزيع الخارجي (OOD) بشكل واسع من أجل تطبيق الشبكات العصبية بنجاح، خصوصًا في التطبيقات الحرجة من حيث السلامة. علاوة على ذلك، فإن إجراء كشف OOD على مجموعات بيانات ضخمة يقترب أكثر من الواقع، ولكنه أيضًا أكثر تحديًا. تعتمد عدة طرق إما على الوصول إلى بيانات التدريب لتصميم نقاط الأداء، أو تتطلب عرض النماذج على البيانات الشاذة أثناء التدريب. بينما يمكن لبعض الطرق المطبقة لاحقًا تجنب القيود المذكورة أعلاه، إلا أنها أقل تنافسية. في هذا العمل، نقترح دالة القياس العامة القائمة على الانتروبيا (GEN)، وهي دالة بسيطة وفعالة تعتمد على الانتروبيا، يمكن تطبيقها على أي تصنيفية مُدرَّبة مسبقًا تعتمد على دالة الـ softmax. وقد أُظهرت أداءها المتميز في معيار كشف OOD على مجموعة بيانات ImageNet-1k الضخمة. حيث تُحسّن بشكل ثابت متوسط مؤشر AUROC على ستة تصنيفيات شائعة تعتمد على الشبكات العصبية التلافيفية (CNN) والمحولات البصرية (Visual Transformers)، متفوقةً على عدد من الطرق المتطورة المطبقة لاحقًا. وتشير التحسينات في متوسط AUROC إلى تحسن لا يقل عن 3.5%. علاوةً على ذلك، استخدمنا GEN فوق طرق تعزيز الميزات، وكذلك طرق تعتمد على إحصائيات التدريب، لتحسين أداء كشف OOD بشكل أكبر. يُمكن الاطلاع على الكود من خلال: https://github.com/XixiLiu95/GEN.

GEN: دفع حدود ك detec tion الموزعة خارج النطاق القائمة على Softmax | أحدث الأوراق البحثية | HyperAI