منذ 2 أشهر
مُشغّل المكدّسات المختصرة لمُشفِّرات الجمل متعددة المجالات للاستدلال
Yixin Nie; Mohit Bansal

الملخص
نقدم مرمّزًا جمليًا تتابعيًا بسيطًا للإدراك اللغوي الطبيعي متعدد المجالات. يعتمد مرمّزنا على شبكات LSTM-RNN ثنائية الاتجاه متراصة مع اتصالات قصيرة وضبط دقيق لمتجهات الكلمات. يستخدم النموذج الإشرافي الشامل المذكور أعلاه لترميز جملتين مدخلتين إلى متجهين، ثم يستخدم تصنيفًا فوق تركيب المتجهات لتحديد العلاقة بين الجملتين كعلاقة استدلال أو تناقض أو حيادية (neural). حقق مرمّزات الجمل الخاصة بنا ذات الاتصالات القصيرة والمتراصة تحسينات قوية على المرمّزات الموجودة في مجال الإدراك اللغوي الطبيعي متعدد المجالات والمتطابقة وغير المتطابقة (أفضل نتيجة نموذج فردي غير مجمَّع في مهمة EMNLP RepEval المشتركة 2017 (Nangia et al., 2017)). بالإضافة إلى ذلك، حققت هذه المرمّزات أفضل نتيجة جديدة في الترميز على مجموعة بيانات SNLI الأصلية (Bowman et al., 2015).