مُشْفِر الجملة القائم على الشبكة العصبية المتكررة مع انتباه مُحَدَّد للإدراك اللغوي الطبيعي

يهدف مسابقة RepEval 2017 المشتركة إلى تقييم نماذج فهم اللغة الطبيعية لتمثيل الجمل، حيث يتم تمثيل الجملة كمتجه ذو طول ثابت باستخدام الشبكات العصبية، ويختبر جودة هذا التمثيل من خلال مهمة الاستدلال اللغوي الطبيعي. يصف هذا البحث نظامنا (ألفا) الذي حاز على تصنيف ضمن الأفضل في المسابقة المشتركة، سواءً في مجموعة الاختبار داخل المجال (بتحقيق دقة قدرها 74.9%) أو في مجموعة الاختبار بين المجالات (بتحقيق دقة مماثلة قدرها 74.9%)، مما يدل على أن النموذج يتعمم بشكل جيد على بيانات بين المجالات. يتم تجهيز نموذجنا بتكوين الانتباه المغلق داخل الجملة (intra-sentence gated-attention composition)، مما يساعد على تحقيق أداء أفضل. بالإضافة إلى تقديم نموذجنا للمهمة المشتركة، فقد اختبرناه أيضًا على مجموعة بيانات الاستدلال اللغوي الطبيعي من جامعة ستانفورد (SNLI). حققنا دقة قدرها 85.5%，وهي أفضل نتيجة تم الإبلاغ عنها على SNLI عندما لا يُسمح بالانتباه بين الجمل (cross-sentence attention)، وهي نفس الشروط التي فُرضت في RepEval 2017.