HyperAIHyperAI

Command Palette

Search for a command to run...

MAFiD: دمج مدعوم بمتوسط متحرك في فك التشفير للإجابة على الأسئلة على البيانات الجدولية والنصية

Seung-Hoon Na Inho Kang Donghyeon Jeon Daeryong Seo Eunhwan Park Sung-Min Lee

الملخص

النماذج القائمة على Transformer للإجابة على الأسئلة (QA) على الجداول والنصوص تواجه تسلسلاً طويلاً مختلطاً يتضمن عناصر جدولية ونصية، مما يؤدي إلى مشكلات في الاستدلال على مسافات طويلة. ولمعالجة الاستدلال على مسافات طويلة، نستخدم على نطاق واسع معملي دمج في فك التشفير (FiD) والمسار المتوسط الأسي (EMA)، ونُقدِّم نموذجًا يُسمى {underline{M}oving {underline{A}verage Equipped {underline{F}usion-{underline{i}n-{underline{D}ecoder ({textbf{MAFiD}). وباستخدام FiD كهيكل أساسي، يدمج MAFiD مستويات مختلفة من الاستدلال: {textit{الترميز المستقل} للبيانات المتجانسة، و{textit{الاستدلال على صف واحد}، و{textit{الاستدلال على عدة صفوف} غير المتجانسة، باستخدام طبقة انتباه متقاطع مُنظَّمة (gated cross attention layer) لجمع تمثيلات الثلاثة أنواع الناتجة عن أنواع الاستدلال المختلفة بشكل فعّال. وأظهرت النتائج التجريبية على مجموعة بيانات HybridQA أن MAFiD تحقق أداءً من الدرجة الأولى من حيث الأداء، حيث زادت من مؤشر التطابق الدقيق (EM) ومؤشر F1 بنسبة 1.1 و1.7 على التوالي في مجموعة الاختبار العمياء.


بناء الذكاء الاصطناعي بالذكاء الاصطناعي

من الفكرة إلى الإطلاق — سرّع تطوير الذكاء الاصطناعي الخاص بك مع المساعدة البرمجية المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.

البرمجة التعاونية باستخدام الذكاء الاصطناعي
وحدات GPU جاهزة للعمل
أفضل الأسعار

HyperAI Newsletters

اشترك في آخر تحديثاتنا
سنرسل لك أحدث التحديثات الأسبوعية إلى بريدك الإلكتروني في الساعة التاسعة من صباح كل يوم اثنين
مدعوم بواسطة MailChimp