تعلم من الفشل: تدريب تصنيف خالي من التحيز من تصنيف متحيز

غالبًا ما تتعلم الشبكات العصبية إجراء التنبؤات التي تعتمد بشكل مفرط على الارتباط الزائف الموجود في مجموعة البيانات، مما يسبب انحياز النموذج. بينما تتعامل الأبحاث السابقة مع هذه المشكلة من خلال استخدام التسمية الصريحة للخصائص المرتبطة زيفًا أو افتراض نوع معين من الانحياز، نحن بدلاً من ذلك نستفيد من شكل أرخص ومع ذلك عام من المعرفة البشرية، والذي يمكن تطبيقه على نطاق واسع لأنواع مختلفة من الانحياز. أولاً، لاحظنا أن الشبكات العصبية تتعلم الاعتماد على الارتباط الزائف فقط عندما يكون "أسهل" للتعلم منه المعرفة المرغوبة، وأن هذا الاعتماد يكون الأكثر بروزًا خلال المرحلة الأولى من التدريب. بناءً على هذه الملاحظات، نقترح مخططًا للتخلص من الانحياز يستند إلى الفشل عن طريق تدريب زوج من الشبكات العصبية في وقت واحد. فكرتنا الرئيسية ثنائية؛ (أ) نقوم بتدريب الشبكة الأولى عمديًا لتكون متحيزة عن طريق زيادة "انحيازها" بشكل متكرر، و(ب) نقوم بالتخلص من الانحياز في تدريب الشبكة الثانية بالتركيز على العينات التي تخالف انحياز الشبكة المتحيزة في (أ). تظهر التجارب الواسعة أن طريقتنا تحسن بشكل كبير تدريب الشبكة ضد أنواع مختلفة من الانحيازات في كلٍّ من مجموعات البيانات المصطنعة والواقعية. وبشكل مفاجئ، فإن إطار عملنا حتى يتفوق أحيانًا على طرق التخلص من الانحياز التي تتطلب الإشراف الصريح للخصائص المرتبطة زيفًا (spuriously correlated attributes).