إطار بسيط موحد للكشف عن العينات خارج التوزيع والهجمات المعادية

اكتشاف عينات الاختبار التي يتم سحبها بمسافة كافية بعيدًا عن توزيع التدريب إحصائيًا أو بشكل معادٍ هو متطلب أساسي لتطبيق تصنيف جيد في العديد من التطبيقات العملية للتعلم الآلي. ومع ذلك، فإن الشبكات العصبية العميقة ذات المصنف softmax معروفة بإنتاج توزيعات ما بعدية عالية الثقة حتى بالنسبة لهذه العينات الغير طبيعية. في هذا البحث، نقترح طريقة بسيطة ولكن فعالة لاكتشاف أي عينات غير طبيعية، وهي قابلة للتطبيق على أي مصنف عصبي مسبق التدريب يستخدم softmax. نحصل على التوزيعات الجاوسية المشروطة بالفئات بالنسبة إلى (الميزات السفلية والعلوية) للنماذج العميقة تحت تحليل التمييز الجاوسية، مما يؤدي إلى درجة ثقة تعتمد على المسافة الماهالانوبس. بينما تم تقييم معظم الطرق السابقة لاكتشاف إما العينات خارج نطاق التوزيع أو العينات المعادية، وليس كلاهما معًا، فقد حققت الطريقة المقترحة أداءً رائدًا لكلا الحالتين في تجاربنا. بالإضافة إلى ذلك، وجدنا أن الطريقة المقترحة أكثر صلابة في الحالات الصعبة، مثل عندما يحتوي مجموعة البيانات المستخدمة في التدريب على علامات ضوضائية أو عدد قليل من العينات. وأخيرًا، نوضح أن الطريقة المقترحة يمكن استخدامها بشكل أوسع من خلال تطبيقها على التعلم الفئوي المتزايد: كلما تم اكتشاف عينات خارج نطاق التوزيع، يمكن لمبدأ تصنيفنا دمج فئات جديدة بشكل جيد دون الحاجة إلى إعادة تدريب النماذج العميقة.