أقرت شركة ديسكورد بوجود خلل في نظام الرقابة الآلي المعتمد على الذكاء الاصطناعي، مما أدى إلى حظر أكثر من ثمانية آلاف مستخدم بشكل خاطئ خلال الشهرين الماضيين. بدأت هذه المشكلة في مايو من العام الجاري، واكتشفها الفريق الفني وأصلحها مؤخراً، حيث تم حظر مئتين إضافي قبل يومين فقط من التصحيح. وتعمل المنصة حالياً على استعادة الحسابات المحظورة بشكل فوري. جاء الحظر نتيجة تصنيف النظام للصور العادية كمواد ضارة، حيث استهدف ملفات الجداول الحسابية، ولوحات الشطرنج، وملمسات ألعاب الفيديو، والخلفيات الشفافة ذات الألوان البيضاء والرمادية، بالإضافة إلى الأنماط الشبكية المربعة. وعللت ديسكورد هذه الحادثة بخلل برمجي تجاوز عملية المراجعة البشرية المطلوبة، مما أدى إلى التجميد الفوري للحسابات التي رفعت محتوى مشابهاً لقواعد البيانات الخاصة بالمواد غير القانونية. وتؤكد الشركة على سعيها لتعزيز ضوابط السلامة لمنع تكرار الأخطاء المشابهة. أثار الحادث غضباً واسعاً بين المستخدمين، لا سيما المبدعين والمطورين الذين يعتمدون على المنصة لأغراض مهنية وتواصل مجتمعي، مشيرين إلى العواقب المدمرة للفقدان المفاجئ للحسابات. وقد انتشرت شكاوى مماثلة على منصات التواصل الاجتماعي، حيث طالب المستخدمون بمراجعة شفافة لآليات الحظر الآلي، معتبرينها تهديداً لاستمرارية العمل والتواصل الرقمي. يمثل هذا الحادث انعكاساً للتحديات المتزايدة التي تواجهها المنصات الرقمية في الاعتماد المتزايد على الرقابة الآلية لإدارة المحتوى على نطاق واسع. ولم تكن ديسكورد الوحيدة في مواجهة هذه الإشكالية، إذ سجلت فيسبوك وإنستغرام وتومبلر حوادث مشابهة من حظر جماعي غير مبرر يُعزى إلى حساسية الخوارزميات المفرطة أو أخطاء في التصنيف. وفي ظل تصاعد الضغوط من الهيئات الرقابية والمستخدمين، تزداد المطالبات بضرورة تطبيق معايير شفافية أعلى وتحديث آليات المراجعة الهجينة التي تجمع بين الذكاء الاصطناعي والإشراف البشري الفعّال، لضمان التوازن بين الأمن الرقمي وحقوق المستخدمين في الفضاء الافتراضي.