HyperAIHyperAI

Command Palette

Search for a command to run...

نظام ذكاء اصطناعي يكتشف المحتوى الضار عبر الإنترنت

طور باحثون من جامعة كونكورديا الكندية، بزعامة الدكتورة أريزو بوداغي، نظاماً جديداً يعتمد على الذكاء الاصطناعي للكشف عن المحتوى الضار والخطير عبر الإنترنت، يتفوق في السرعة والدقة على أدوات المراجعة الحالية. ويُعرف النظام باسم نظام الاستدلال المتسلسل المعتمد على تحسين السياسات القريبة، ويعمل وفق نموذج طبقي متعدد المراحل يهدف إلى معالجة الكم الهائل من البيانات المنبثقة لحظياً دون إرباك البنية التحتية الرقمية. يعتمد الآلية على هيكلية هرمية تبدأ بفلترة أولية سريعة للمحتوى الوارد، حيث يتم تصفية الغالبية العظمى منه كأمن وغير ضار. أما النصوص المشكوك في خطورتها، فتُحال تلقائياً إلى مصنف ثانٍ أبطأ لكنه أكثر دقة، وفي حال استمرار الغموض، يُرسل المحتوى أخيراً إلى مشرف بشري لاتخاذ القرار النهائي. وتتميز البنية بتكاملها مع نماذج متعددة للمراجعة، حيث تعزز نقاط القوة في كل نموذج وتقلل من ثغراته، مع تطبيق نظام مكافآت وعقوبات قائم على التعلم التعزيزي لضبط توازن دقيق بين سرعة المعالجة وجودة النتائج، مما يسمح للنظام بالتكيف الديناميكي مع معايير المنصات المختلفة. وفي تجربة منهجية، اختبر الفريق نموذج النظام باستخدام مجموعتي بيانات كبيرتين هما AugmenToxic وToxiGen، وحقّق أداءً يتفوق بمقدار 2.1 في المئة على الطرق التقليدية في الكشف عن المحتوى الضار. كما سجل النظام سرعة معالجة فائقة بلغت 384 عينة في الثانية، مقارنة بأكثر من 43 عينة في النماذج المماثلة، متجاوزاً بذلك نظام CETRA المعزز سابقاً والمصمم للكشف عن البرمجيات الخبيثة. وتبرز القيمة المضافة لهذا التطوير خاصة للمنصات الرقمية العاملة في بيئات تشريعية تفرض مهلاً زمنية صارمة لإزالة المحتويات الضارة قبل انتشارها. جاء نشر هذا البحث في مجلة Knowledge-Based Systems لعام 2026، بمشاركة كل من البروفيسور كيترا شمت من مركز الهندسة في المجتمع بالمدرسة الخاصة بالهندسة وعلوم الحاسوب، والبروفيسور بنيامين فونغ من جامعة مكغيل. ويُمثل هذا الإطار خطوة نوعية نحو أتمتة المراقبة الرقمية بمعايير عالية الكفاءة، تماشياً مع المتطلبات المتزايدة لضمان سلامة البيئات الرقمية على مستوى العالم.

الروابط ذات الصلة