تقييم فعالية الشبكة العصبية الكبسولية في تصنيف التعليقات السامة باستخدام تمثيلات BERT المُدرّبة مسبقًا

نجذبت اهتمامات كبيرة في مجالات فهم اللغة الطبيعية (NLU) وإنشاء اللغة الطبيعية (NLG) من نماذج اللغة الكبيرة (LLMs) منذ إدخالها. في المقابل، يبدو أن إرث الشبكات العصبية الكبسولية (CapsNet) قد نُسيّ تقريبًا وسط هذا الحماس. يهدف هذا المشروع إلى إحياء الاهتمام بـ CapsNet من خلال إعادة فتح الدراسات السابقة التي كانت مغلقة وإجراء بحث جديد حول الإمكانات المحتملة لهذه الشبكة. نقدم دراسة تُستخدم فيها CapsNet لتصنيف النصوص الخبيثة من خلال الاستفادة من تضمينات BERT المُدرّبة مسبقًا (bert-base-uncased) على مجموعة بيانات متعددة اللغات كبيرة الحجم. في هذه التجربة، تم تكليف CapsNet بتصنيف النصوص الخبيثة. وبالمقارنة بين أداء CapsNet وأداء هندسات أخرى، مثل DistilBERT وشبكات عصبية عادية (VNN) والشبكات العصبية التلافيفية (CNN)، تم تحقيق دقة قدرها 90.44٪. يُبرز هذا الناتج الفوائد التي تقدمها CapsNet عند التعامل مع البيانات النصية، ويشير إلى طرق جديدة لتحسين أدائها بحيث يصبح مماثلًا لـ DistilBERT والهندسات المختصرة الأخرى.