الدفاع ضد الأخبار المزيفة العصبية

التقدم الحديث في توليد اللغة الطبيعية أثار مخاوف استخدام مزدوج. بينما تعتبر التطبيقات مثل التلخيص والترجمة إيجابية، قد يمكّن التكنولوجيا الأساسية الأعداء من إنتاج الأخبار المزيفة العصبية: دعاية مستهدفة تشبه إلى حد كبير أسلوب الأخبار الحقيقية.يعتمد الأمن الحاسوبي الحديث على نماذج التهديد الدقيقة: تحديد التهديدات والثغرات المحتملة من وجهة نظر العدو، واستكشاف وسائل التخفيف من هذه التهديدات. وبالمثل، يتطلب تطوير دفاعات قوية ضد الأخبار المزيفة العصبية أن نقوم أولاً بدراسة دقيقة وتوصيف للمخاطر المرتبطة بهذه النماذج. ولذلك، نقدم نموذجاً للإنتاج النصي القابل للتحكم يُسمى غروفر (Grover). بإمكان غروفر، عند تقديم عنوان مثل "عُثر على علاقة بين اللقاحات والتوحد"، إنتاج باقي المقال؛ حيث يجد البشر أن هذه الإصدارات أكثر ثقة من المعلومات الخاطئة التي كتبتها البشر.تطوير تقنيات التحقق القوية ضد مولدات مثل غروفر أمر حاسم. وقد اكتشفنا أن أفضل المميزات الحالية يمكنها تصنيف الأخبار المزيفة العصبية من الأخبار الحقيقية التي كتبتها البشر بدقة تبلغ 73٪، بفرض توفر مستوى معتدل من بيانات التدريب. بطريقة غير متوقعة، تبين أن أفضل دفاع ضد غروفر هو غروفر نفسه، بمعدل دقة يصل إلى 92٪، مما يؤكد أهمية إطلاق مولدات قوية للجمهور. نستكشف هذه النتائج بشكل أكبر، حيث نظهر أن الانحياز في الكشف (exposure bias) والاستراتيجيات العينية التي تخفف آثاره تترك آثارًا يمكن لمميزات مشابهة اكتشافها. وفي الختام، نناقش القضايا الأخلاقية المتعلقة بالتكنولوجيا ونخطط لإطلاق غروفر بشكل عام، مما يساعد في فتح الطريق لتحسين اكتشاف الأخبار المزيفة العصبية.