aNMM: ترتيب النصوص القصيرة للإجابات باستخدام نموذج التوافق العصبي المستند إلى الانتباه

كبدائل للطرق المستندة إلى هندسة الميزات في الإجابة على الأسئلة، تم اقتراح نماذج التعلم العميق مثل شبكات النيورونات المتكررة ثنائية البعد (CNNs) ونماذج الذاكرة طويلة المدى قصيرة المدى (LSTMs) مؤخرًا لمطابقة المعاني بين الأسئلة والإجابات. ومع ذلك، لتحقيق نتائج جيدة، تم دمج هذه النماذج مع ميزات إضافية مثل تداخل الكلمات أو درجات BM25. بدون هذا الدمج، تؤدي هذه النماذج بشكل أسوأ بكثير من الطرق المستندة إلى هندسة الميزات اللغوية. في هذا البحث، نقترح نموذج مطابقة عصبي مستند إلى الانتباه لترتيب النصوص القصيرة للإجابات. نعتمد مخطط وزن مشترك بالقيمة بدلاً من مخطط وزن مشترك بالموقع لدمج إشارات المطابقة المختلفة وندمج تعلم أهمية شروط السؤال باستخدام شبكة انتباه السؤال. باستخدام مجموعة بيانات TREC QA الشهيرة كمعيار مرجعي، نظهر أن النموذج النسبي البسيط aNMM يمكن أن يتفوق بشكل كبير على النماذج العصبية الأخرى التي استخدمت في مهمة الإجابة على الأسئلة، وأنه تنافسي مع النماذج التي يتم دمجها بميزات إضافية. عندما يتم دمج aNMM بميزات إضافية، فإنه يتفوق على جميع خطوط الأساس.