سلسلة المهارات: نموذج قابل للتخصيص للإجابة على الأسئلة في مجال مفتوح

نموذج الاسترجاع يُعد عنصراً لا غنى عنه في المهام المعتمدة على المعرفة في العالم الحقيقي، مثل الإجابة على الأسئلة في نطاق مفتوح (ODQA). وبما أن المهارات المستقلة للاسترجاع تُعلّم بشكل منفصل لكل مجموعة بيانات، فإن الدراسات الحديثة تركز على طرق مخصصة، مما يحد من قابلية نقل النموذج وقابلية التوسع. في هذا العمل، نقترح نموذجاً استرجاعياً قابلاً للتركيب، حيث تتوافق الوحدات الفردية مع المهارات الأساسية التي يمكن إعادة استخدامها عبر مجموعات البيانات المختلفة. ويتيح نهجنا تكوين مهارات مرنة بناءً على المجال المستهدف لتعزيز الأداء. ولتقليل التداخل بين المهام، نصمم معايير تجزئة جديدة مستوحاة من نموذج Transformer النادر. ونُظهر أن نموذجنا يمكنه الاستفادة من التدريب ذاتي التعلم على ويكيبيديا، والتدريب الدقيق باستخدام عدة مجموعات بيانات ODQA، بشكل متعدد المهام. ويتفوق نهجنا على النماذج المسترجعة ذاتية التعلم الحديثة في التقييمات الصفرية، ويحقق أفضل أداء دقيق في الاسترجاع على مجموعات NQ وHotpotQA وOTT-QA.