HyperAIHyperAI

Command Palette

Search for a command to run...

DyREx: تمثيل الاستعلام الديناميكي للإجابة المستخلصة من الأسئلة

Urchade Zaratiana Niama El Khbir Dennis Núñez Pierre Holat Nadi Tomeh Thierry Charnois

الملخص

الإجابة المستخلصة على أسئلة (ExQA) هي مهمة أساسية في معالجة اللغة الطبيعية. يُعد النهج السائد في ExQA هو تمثيل عناصر التسلسل المدخلة (السؤال والنص) باستخدام محول مُدرّب مسبقًا، ثم استخدام متجهين مُتعلمين للسؤال لحساب توزيعات على موضع البداية والنهاية لفترة الإجابة. تعاني هذه المتجهات المُتعلمة للسؤال من عدم احتوائها على سياق المدخلات، مما قد يشكل عائقًا أمام أداء النموذج. ولحل هذه المشكلة، نقترح \textit{DyREx}، وهي تعميم للنهج التقليدي، حيث نحسب متجهات الاستعلام بشكل ديناميكي بناءً على المدخلات، باستخدام آلية انتباه من خلال طبقات المحول. تُظهر الملاحظات التجريبية أن نهجنا يُحسّن باستمرار الأداء مقارنة بالنهج القياسي. يمكن الوصول إلى الكود والملفات المرافقة لتشغيل التجارب من خلال الرابط التالي: \url{https://github.com/urchade/DyReX}.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp