HateXplain: مجموعة بيانات معيارية للكشف القابل للتفسير عن الكلام الكاره

الخطاب الكاره يُعدّ مشكلة صعبة تؤرق وسائل التواصل الاجتماعي عبر الإنترنت. وعلى الرغم من التطور المستمر في تطوير نماذج أفضل للكشف عن الخطاب الكاره، إلا أن هناك قلة في الأبحاث المتعلقة بجوانب التحيز والقابلية للتفسير في هذا المجال. في هذا البحث، نقدّم HateXplain، أول مجموعة بيانات معيارية للكشف عن الخطاب الكاره تغطي جوانب متعددة من هذه المشكلة. يتم تسمية كل منشور في مجموعتنا من ثلاث زوايا مختلفة: التصنيف الأساسي الشائع المكوّن من ثلاث فئات (أي: خطاب كاره، إهانة، أو عادي)، والمجتمع المستهدف (أي: المجتمع الذي أصبح ضحية للخطاب الكاره أو الإهانة في المنشور)، والأساس التفسيري (أي: الأجزاء من المنشور التي يعتمد عليها قرار التصنيف كـ "كاره"، "إهانة"، أو "عادي"). استخدمنا نماذج حديثة متقدمة موجودة مسبقًا، ولاحظنا أن النماذج التي تحقق أداءً جيدًا جدًا في التصنيف لا تحقق درجات عالية في مقاييس التفسير مثل معقولية النموذج ودقته (الولاء). كما لاحظنا أن النماذج التي تستخدم الأساسيات البشرية في التدريب تُظهر أداءً أفضل في تقليل التحيز غير المقصود تجاه المجتمعات المستهدفة. وقد أتاحنا كودنا ومجموعة البيانات للجمهور عبر الرابط التالي: https://github.com/punyajoy/HateXplain