ما الذي تسأل عنه الأسئلة بالضبط؟ MFAE: تحديد الأسئلة المكررة باستخدام التركيز المتعدد على طرح الأسئلة

تم تحسين كفاءة المعالجة ودقة أنظمة الإجابة التلقائية على نطاق واسع في مجتمعات الأسئلة من خلال التعرف على الأسئلة المكررة (DQI). ويهدف مهام DQI إلى تحديد ما إذا كانت الأسئلة المزدوجة متكافئة من حيث المعنى. ومع ذلك، لا يزال من الصعب التمييز بين المرادفات أو المتشابهات الصوتية في الأسئلة المزدوجة. وتركز معظم الدراسات السابقة على الفروق الدلالية على مستوى الكلمة أو التعبير. نحن نقترح لأول مرة استكشاف "التركيز على طرح السؤال" كعوامل رئيسية في مهام DQI، حيث يُعد هذا التركيز جسرًا يربط بين التكافؤ الدلالي بين سؤالين. في هذه الورقة، نقترح نموذج انتباه يعتمد على التكامل المتعدد للتركيز على طرح السؤال (MFAE) لمعالجة DQI. أولاً، نستخدم BERT لاستخراج تمثيلات الكلمات المُدرّبة ديناميكيًا. ثم نحصل على التركيز الخارجي والداخلي على طرح السؤال من خلال جمع الانتباه الخارجي والانتباه الذاتي على التوالي؛ حيث يُفترض أن الكلمة التي تتفاعل أكثر مع الكلمات الأخرى تكون أكثر أهمية. وأخيرًا، نستخدم توليفات من ثمانية أنواع لتكوين التكامل المتعدد للتركيز على طرح السؤال والتمثيل المتعدد للكلمات. أظهرت النتائج التجريبية أن نموذجنا يحقق أداءً متقدمًا على مستوى الحالة الحالية (state-of-the-art) على كلا مجموعتي بيانات Quora Question Pairs و CQADupStack. علاوةً على ذلك، يمكن لنموذجنا تحسين النتائج في مهمة الاستدلال اللغوي الطبيعي على مجموعتي بيانات SNLI و MultiNLI. يمكن الوصول إلى الكود عبر الرابط: https://github.com/rzhangpku/MFAE.