اكتشاف وتخفيف التحيزات غير المعروفة باستخدام شبكات البديل المضادة للتحيز

تم العثور على تصنيفات الصور العميقة أنها تتعلم التحيزات من مجموعات البيانات. لتخفيض هذه التحيزات، تتطلب معظم الطرق السابقة بيانات تدريبية كاملة للخصائص المحمية (مثل العمر، لون البشرة) كإشراف كامل، مما ينطوي على قيودين رئيسيين: 1) عدم إمكانية ذلك عندما تكون البيانات التدريبية غير متاحة؛ 2) عدم قدرتها على تخفيض التحيزات غير المعروفة -- تلك التحيزات التي لا يتوقعها البشر. لحل هذه المشاكل، نقترح استخدام شبكات البديل للتخفيف من التحيز (DebiAN)، والتي تتكون من شبكتين -- اكتشاف ومصنف. من خلال التدريب بطريقة بديلة، تحاول الشبكة الاكتشافية العثور على العديد من التحيزات غير المعروفة للمصنف دون أي تسميات للتحيزات، بينما يهدف المصنف إلى نسيان التحيزات التي تم تحديدها بواسطة الشبكة الاكتشافية. في حين أن الأعمال السابقة تقيم نتائج تخفيض التحيز بناءً على تحيز واحد فقط، فقد أنشأنا مجموعة بيانات Multi-Color MNIST لتقييم أفضل لتخفيض عدة تحيزات في بيئة متعددة التحيزات، مما يكشف عن المشكلات في الطرق السابقة ويظهر مزايا DebiAN في تحديد وتخفيض عدة تحيزات بشكل متزامن. كما أجرينا اختبارات واسعة النطاق على مجموعات بيانات حقيقية، مما أظهر أن الشبكة الاكتشافية في DebiAN يمكنها تحديد التحيزات غير المعروفة التي قد يكون من الصعب اكتشافها بواسطة البشر. فيما يتعلق بتخفيض التحيز، فإن DebiAN حققت أداءً قوياً في تخفيض التحيز.