نُدمج تمثيلات المنتج التنسوري داخل نموذج المُحَوِّل (Transformer) من أجل دعم أفضل للتمثيل الصريح لهيكل العلاقات. يُعد نموذج المُحَوِّل المنتج التنسوري (TP-Transformer) الأفضل على مستوى الحالة الحالية (State of the Art) في مجموعة بيانات الرياضيات الحديثة التي تضم 56 فئة من مسائل الرياضيات النصية الحرة. يُشكّل المكوّن الأساسي للنموذج آلية انتباه جديدة تُسمى TP-Attention، والتي تمثل بشكل صريح العلاقات بين كل خلية في المُحَوِّل والخلايا الأخرى التي تم استرجاع القيم منها عبر آلية الانتباه. تتجاوز TP-Attention الجمع الخطي للقيم المسترجعة، وتعزز بناء التمثيلات وتحل المشكلات الناتجة عن الغموض الذي تُحدثه الطبقات المتعددة للانتباه القياسي. تُقدّم خرائط الانتباه الخاصة بنموذج TP-Transformer رؤى أفضل حول كيفية قدرته على حل المسائل الصعبة في مجموعة بيانات الرياضيات. سيتم توفير النماذج المُدرّبة مسبقًا والكود البرمجي بعد النشر.