HyperAIHyperAI
منذ 15 أيام

الاحتمالية العظمى المُعَدَّلة التنبؤية ذات الطبقة الواحدة للكشف عن التوزيعات غير المُوزَّعة

Koby Bibas, Meir Feder, Tal Hassner
الاحتمالية العظمى المُعَدَّلة التنبؤية ذات الطبقة الواحدة للكشف عن التوزيعات غير المُوزَّعة
الملخص

كشف العينات التي تقع خارج التوزيع (OOD) يُعد أمرًا بالغ الأهمية لتطوير نماذج تعتمد على التعلم الآلي لأنظمة الحماية الحرجة. تعتمد الطرق الشائعة للكشف عن OOD على توفر بعض العينات OOD أثناء التدريب، وهو ما قد لا يكون متاحًا في السياقات الواقعية. بدلًا من ذلك، نستخدم متلقّي الاحتمال الأقصى الطبيعي المُعدّل تنبؤيًا (pNML)، الذي لا يُفترض فيه أي افتراضات حول المدخلات المُختبرة. نُشتق تعبيرًا صريحًا لـ pNML وخطأ تعميمه، المُسمّى الخسارة (regret)، بالنسبة لشبكة عصبية ذات طبقة واحدة (NN). ونُظهر أن هذا المتلقّي يُظهر أداءً جيدًا في التعميم عندما يكون (i) المتجه التجريبي داخل فراغ جزئي مُولّد بواسطة متجهات ذاتية مرتبطة بقيم ذاتية كبيرة لمصفوفة الارتباط التجريبية للبيانات التدريبية، أو (ii) تكون العينة التجربيّة بعيدة جدًا عن الحد الفاصل. علاوةً على ذلك، نصف كيفية تطبيق خسارة pNML المستمدة بكفاءة على أي شبكة عصبية عميقة مُدرّبة مسبقًا، وذلك من خلال استخدام التعبير الصريح لـ pNML للطبقة الأخيرة، متبوعًا بدالة الـ softmax. يتطلب تطبيق الخسارة المشتقة على الشبكات العميقة العميقة لا يتطلب أي معلمات قابلة للضبط إضافية ولا بيانات إضافية. وقد قمنا بتقييم واسع لنهجنا على 74 معيارًا للكشف عن OOD باستخدام نماذج DenseNet-100 وResNet-34 وWideResNet-40 المدرّبة على بيانات CIFAR-100 وCIFAR-10 وSVHN وImageNet-30، حيث أظهرت النتائج تحسينًا ملحوظًا يصل إلى 15.6% مقارنةً بالأساليب الرائدة الحديثة.

الاحتمالية العظمى المُعَدَّلة التنبؤية ذات الطبقة الواحدة للكشف عن التوزيعات غير المُوزَّعة | أحدث الأوراق البحثية | HyperAI