إي بي تي-إكس: نموذج ترانسفورمر يُنتج توضيحات للرقم يعتمد على التعبير-المؤشر
{Gahgene Gweon Sangkyu Rhim Kyung Seo Ki Bugeun Kim}
الملخص
في هذه الورقة، نقترح نموذجًا عصبيًا يُسمى EPT-X (Transformer التعبيري-المؤشر مع التفسيرات)، والذي يستخدم التفسيرات باللغة الطبيعية لحل مسائل الكلمات الجبرية. ولتعزيز قابلية التفسير في عملية الترميز الخاصة بالنماذج العصبية، يعتمد نموذج EPT-X على مفهومي المصداقية والولاء، وهما مفهومان مستوحاة من استراتيجيات حل مسائل الكلمات الرياضية التي يعتمدها البشر. ويُعد التفسير المُقنع هو ذلك الذي يحتوي على معلومات سياقية بالنسبة للأرقام والمتغيرات الظاهرة في مسألة رياضية معينة. أما التفسير الوفي فهو الذي يمثل بدقة العملية الاستدلالية الكامنة وراء المعادلة الحلّية التي يُقدّمها النموذج. ويُظهر نموذج EPT-X أداءً متوسطًا يبلغ 69.59% على مجموعتنا البياناتية PEN، ويُنتج تفسيرات ذات جودة تُقارن بتلك التي يُنتجها البشر. تتمثل المساهمة الرئيسية لهذه الدراسة في جوانب متعددة: (1) نموذج EPT-X: نموذج عصبي قابل للتفسير يُشكّل معيارًا أوليًا لمهام حل مسائل الكلمات الجبرية، من حيث الدقة، والمصداقية، والولاء في النموذج. (2) مجموعة بيانات جديدة: نُطلق مجموعة بيانات جديدة تُسمى PEN (مسائل مع تفسيرات للأرقام)، والتي توسّع المجموعات البياناتية الحالية من خلال ربط تفسيرات بكل رقم أو متغير.
المعايير القياسية
| معيار قياسي | المنهجية | المقاييس |
|---|---|---|
| math-word-problem-solving-on-alg514 | EPT-X | Accuracy (%): 67.07 |
| math-word-problem-solving-on-alg514 | EPT | Accuracy (%): 73.91 |
| math-word-problem-solving-on-draw-1k | EPT-X | Accuracy (%): 56 |
| math-word-problem-solving-on-draw-1k | EPT | Accuracy (%): 63.5 |
| math-word-problem-solving-on-mawps | EPT | Accuracy (%): 88.7 |
| math-word-problem-solving-on-mawps | EPT-X | Accuracy (%): 84.57 |
| math-word-problem-solving-on-pen | EPT-X | Accuracy (%): 69.59 |
بناء الذكاء الاصطناعي بالذكاء الاصطناعي
من الفكرة إلى الإطلاق — عجّل تطوير الذكاء الاصطناعي الخاص بك من خلال البرمجة المشتركة المجانية بالذكاء الاصطناعي، وبيئة جاهزة للاستخدام، وأفضل أسعار لوحدات معالجة الرسومات.