مثال معادي

تشير الأمثلة المعادية إلى المدخلات في الشبكة العصبية التي تتسبب في إخراج الشبكة لنتائج غير صحيحة.

يتم تشكيل عينات الإدخال عن طريق إضافة تداخل طفيف عمداً في مجموعة البيانات. يؤدي الإدخال المتداخل إلى جعل النموذج يعطي إخراجًا خاطئًا بثقة عالية. تُسمى عينات الإدخال بالعينات المعادية. يُنظر عادةً إلى هذا السلوك باعتباره هجومًا معاديًا على نموذج الشبكة العصبية.

تم اقتراحه لأول مرة من قبل كريستيان سيجيدي وآخرين. في ورقتهم البحثية ICLR2014.