إي بي تي-إكس: نموذج ترانسفورمر يُنتج توضيحات للرقم يعتمد على التعبير-المؤشر

في هذه الورقة، نقترح نموذجًا عصبيًا يُسمى EPT-X (Transformer التعبيري-المؤشر مع التفسيرات)، والذي يستخدم التفسيرات باللغة الطبيعية لحل مسائل الكلمات الجبرية. ولتعزيز قابلية التفسير في عملية الترميز الخاصة بالنماذج العصبية، يعتمد نموذج EPT-X على مفهومي المصداقية والولاء، وهما مفهومان مستوحاة من استراتيجيات حل مسائل الكلمات الرياضية التي يعتمدها البشر. ويُعد التفسير المُقنع هو ذلك الذي يحتوي على معلومات سياقية بالنسبة للأرقام والمتغيرات الظاهرة في مسألة رياضية معينة. أما التفسير الوفي فهو الذي يمثل بدقة العملية الاستدلالية الكامنة وراء المعادلة الحلّية التي يُقدّمها النموذج. ويُظهر نموذج EPT-X أداءً متوسطًا يبلغ 69.59% على مجموعتنا البياناتية PEN، ويُنتج تفسيرات ذات جودة تُقارن بتلك التي يُنتجها البشر. تتمثل المساهمة الرئيسية لهذه الدراسة في جوانب متعددة: (1) نموذج EPT-X: نموذج عصبي قابل للتفسير يُشكّل معيارًا أوليًا لمهام حل مسائل الكلمات الجبرية، من حيث الدقة، والمصداقية، والولاء في النموذج. (2) مجموعة بيانات جديدة: نُطلق مجموعة بيانات جديدة تُسمى PEN (مسائل مع تفسيرات للأرقام)، والتي توسّع المجموعات البياناتية الحالية من خلال ربط تفسيرات بكل رقم أو متغير.