HyperAIHyperAI
منذ 17 أيام

استخدام بناء الرسم البياني المحلي المعرفي لتوسيع نماذج Seq2Seq إلى المدخلات متعددة المستندات

Angela Fan, Claire Gardent, Chloe Braud, Antoine Bordes
استخدام بناء الرسم البياني المحلي المعرفي لتوسيع نماذج Seq2Seq إلى المدخلات متعددة المستندات
الملخص

تتطلب المهام المفتوحة النطاق القائمة على الاستعلام في معالجة اللغة الطبيعية مزج المعلومات من نتائج ويب طويلة ومتنوعة. تستخدم الطرق الحالية طرقًا مثل ترتيب TF-IDF لاستخراج أجزاء من نص الويب كمدخلات لنماذج التسلسل إلى التسلسل (Sequence-to-Sequence). نقترح بناء قاعدة معرفة ذات هيكل رسم بياني محلي لكل استعلام، بحيث تُكثف معلومات البحث على الويب وتقلل من التكرار. ونُظهر أنه من خلال تحويل الرسم البياني إلى تسلسل مدخلات منظم، يمكن للنماذج تشفير تمثيلات الرسم البياني ضمن بيئة تسلسل إلى تسلسل القياسية. وباستخدام تمثيلات الرسم البياني كمدخلات، يمكن تحقيق أداءً أفضل مقارنةً باستخدام أجزاء النص المستخرجة، وذلك في مهام توليدية تتطلب مدخلات نصية طويلة جدًا، مثل الإجابة على الأسئلة المطولة وتلخيص الوثائق المتعددة.

استخدام بناء الرسم البياني المحلي المعرفي لتوسيع نماذج Seq2Seq إلى المدخلات متعددة المستندات | أحدث الأوراق البحثية | HyperAI