HyperAIHyperAI
منذ 2 أشهر

المنطق الشائع لمهام الإجابة على الأسئلة التوليدية متعددة الخطوات

Lisa Bauer; Yicheng Wang; Mohit Bansal
المنطق الشائع لمهام الإجابة على الأسئلة التوليدية متعددة الخطوات
الملخص

شهدت مهام أسئلة الإجابة على الفهم القرائي ازديادًا حديثًا في شعبيتها، ومع ذلك ركز معظم الأعمال على أسئلة الإجابة الاستخراجية القائمة على البحث عن حقائق. بدلاً من ذلك، نركز هنا على مهمة توليدية متعددة الخطوات أكثر تحديًا (NarrativeQA)، والتي تتطلب من النموذج أن يستدل ويجمع ويقوم بتركيب قطع المعلومات المنفصل بعضها عن بعض ضمن السياق لتوليد إجابة. هذا النوع من الاستدلال المتعدد الخطوات يتطلب غالبًا فهم العلاقات الضمنية، التي يحلها البشر باستخدام المعرفة الشائعة الخارجية والخلفية. أولاً، نقدم نموذج توليدي قوي يستخدم آلية الانتباه المتعدد لأداء عدة خطوات من الاستدلال ومحقق إشارة لتوليد الإجابة. هذا النموذج يؤدي بشكل أفضل بكثير من النماذج التوليدية السابقة، وهو تنافسي مع النماذج الحالية الأكثر تقدمًا في التنبؤ بالفواصل. ثانياً، نقدم نظامًا جديدًا لاختيار المعلومات الشائعة العقلانية المرتبطة والمبنية على الأرضيات من ConceptNet عبر دالة تقييم تعتمد على معلومات الارتباط النقطي وتكرار المصطلحات. وأخيراً، نستخدم هذه المعلومات الشائعة المستخرجة بكفاءة لسد الثغرات بين خطوات السياق باستخدام آلية انتباه ذات بوابات اختيارية. هذا يعزز أداء النموذج بشكل كبير (وقد تم التحقق منه أيضًا عبر تقييم بشري)، مما يحدد مستوى جديد من التقدم في المهمة. كما نظهر أيضًا نتائج واعدة أولية حول قابلية تعميم تعزيزات معرفتنا الخلفية من خلال إظهار بعض التحسين في QAngaroo-WikiHop، وهي مجموعة بيانات أخرى للاستدلال المتعدد الخطوات.

المنطق الشائع لمهام الإجابة على الأسئلة التوليدية متعددة الخطوات | أحدث الأوراق البحثية | HyperAI