تحسين تصنيف المستندات باستخدام تضمينات متعددة المعاني

تمثيل فعّال للنصوص النصية يُعدّ حجر أساس مهم في العديد من المهام المتعلقة معالجة اللغة الطبيعية. أظهرت الأبحاث المتعلقة بتقسيم النصوص الطويلة أن متوسط الترجيح البسيط لمتجهات الكلمات لتمثيل الجمل غالبًا ما يتفوق على النماذج العصبية الأكثر تطورًا. وقد قدمت الدراسة الأخيرة، وهي متجه الوثيقة المركبة النادرة (SCDV) (Mekala وآخرون، 2017)، توسعة لهذا النهج من الجمل إلى الوثائق باستخدام التجميع اللين على متجهات الكلمات. ومع ذلك، فإن SCDV تتجاهل الطبيعة متعددة المعاني للكلمات، كما تعاني من مشكلة التضخم في الأبعاد. وفي هذا العمل، نعالج هذه العيوب ونُقدّم SCDV-MS. تعتمد SCDV-MS على تمثيلات كلمات متعددة المعاني، وتعلم منعطفًا أبعاده أقل. وعبر تجارب واسعة على عدة مجموعات بيانات حقيقية، نُظهر أن تمثيلات SCDV-MS تتفوق على أفضل تمثيلات سابقة في مهام تصنيف النصوص متعددة الفئات ومتعددة التسميات. علاوةً على ذلك، فإن تمثيلات SCDV-MS أكثر كفاءة من SCDV من حيث التعقيد الزمني والفضائي في مهام التصنيف النصي.