مُخَطِّر أم لَيِّن؟ نحو رقابة محتوى فعّالة على مقاطع الفيديو للأطفال

تتلقى منصات الفيديو عبر الإنترنت مئات الساعات من التحميلات كل دقيقة، مما يجعل الرقابة اليدوية على المحتوى أمرًا مستحيلًا. للأسف، فإن أكثر الفئات عرضة للمحتوى الفيديوي الضار هم الأطفال في الفئة العمرية من سنة إلى خمس سنوات، حيث يُسهَل جذب انتباههم عبر انفجارات من الألوان والصوت. قد يُصمم المحتالون، الذين يسعون إلى تحقيق الربح من محتواهم، فيديوهات ضارة للأطفال تشبه في الظاهر الفيديوهات التعليمية، لكنها تحتوي على شخصيات مخيفة وقبيحة، وحركات عنيفة، وموسيقى عالية الصوت، وأصوات مزعجة. وعلى الرغم من أن منصات استضافة الفيديو البارزة مثل يوتيوب اتخذت إجراءات لتقليل المحتوى الضار على منصاتها، إلا أن هذه الفيديوهات تظل غالبًا غير مُكتشفة بواسطة أدوات الرقابة الحالية، التي تركز على إزالة المحتوى الإباحي أو المُخالِف لحقوق الملكية. يُقدّم هذا البحث أداةً تُسمى "ضارة أم غير ضارة" (Malicious or Benign) لدعم الأبحاث المتعلقة بالرقابة التلقائية على محتوى الفيديوهات الموجهة للأطفال. ونقدّم من خلاله: 1) أداة قابلة للتخصيص للتصنيف التوضيحي للفيديوهات، 2) مجموعة بيانات جديدة تحتوي على حالات صعبة الكشف عن المحتوى الضار، و3) مجموعة معيارية لنموذج تصنيف الفيديو من أحدث التقنيات الحالية.