نماذج التعلّم التسلسلي العصبي لتحديد المعنى في معالجة اللغة الطبيعية

توجد نماذج لتحديد المعنى في العديد من الأشكال. وعلى الرغم من أن النماذج المُدرَّبة بطرق مراقبة تُظهر أفضل الأداء من حيث الدقة، إلا أنها غالبًا ما تفقد مكانتها أمام الحلول القائمة على المعرفة، التي لا تتطلب تدريبًا من قبل خبير كلمات لكل هدف لتحديد المعنى. ولسد هذه الفجوة، نعتمد منظورًا مختلفًا ونعتمد التعلم التسلسلي لصياغة مشكلة تحديد المعنى: نقترح ونُجري دراسة متعمقة لسلسلة من الهياكل العصبية النهائية المُصممة مباشرةً لهذا المهمة، بدءًا من نماذج الذاكرة القصيرة الطويلة ثنائية الاتجاه ووصولًا إلى نماذج المشفر-المنَشِّط (encoder-decoder). وتُظهر تقييماتنا الواسعة على المعايير القياسية وفي لغات متعددة أن التعلم التسلسلي يمكّن من بناء نماذج شاملة للكلمات أكثر مرونة، والتي تحقق نتائج متقدمة باستمرار، حتى في مواجهة خبراء الكلمات الذين يستخدمون سمات مُصممة خصيصًا.