ال trade-off النظري المبدئي بين المتانة والدقة

نحدد تناقضًا بين المتانة والدقة يُعد مبدأً هادفًا في تصميم وسائل الدفاع ضد الأمثلة المعادية. رغم أن هذه المشكلة قد تم دراستها على نطاق واسع بشكل تجريبي، إلا أن الكثير لا يزال غير معروف فيما يتعلق بنظرية هذا التناقض. في هذا البحث، نفكك خطأ التنبؤ للأمثلة المعادية (خطأ المتانة) إلى مجموع الخطأ الطبيعي (خطأ التصنيف) والخطأ الحدي، ونقدم حدًا أقصى قابلًا للمفاضلة باستخدام نظرية الخسارة المُصنَّفة بالتصنيف، والتي تُظهر أنها أضيق حد أقصى ممكن موحد على جميع التوزيعات الاحتمالية والمتنبئين القابلين للقياس. مستوحى من تحليلنا النظري، صممنا أيضًا طريقة دفاع جديدة، وهي TRADES (تناقضات المتانة والدقة)، لتبادل المتانة المعادية مقابل الدقة. أداء خوارزميتنا المقترحة كان جيدًا بشكل تجربة في مجموعة بيانات حقيقية. تعتبر هذه المنهجية أساس مشاركتنا في تحدي الرؤية المعادية لمؤتمر NeurIPS 2018 حيث فزنا بالمركز الأول من بين حوالي 2,000 مشاركة، متخطين الطريقة التي حلّت ثانية بنسبة $11.41\%$ من حيث المسافة المعدلة $\ell_2$ (perturbation distance).