Dans cet article, nous proposons un modèle neuronal EPT-X (Expression-Pointer Transformer with Explanations), qui utilise des explications en langage naturel pour résoudre des problèmes algébriques posés sous forme de mots. Afin d'améliorer l'explicabilité du processus d'encodage d'un modèle neuronal, EPT-X intègre les concepts de plausibilité et de fidélité, inspirés des stratégies humaines de résolution de problèmes mathématiques. Une explication plausible est une explication qui inclut des informations contextuelles relatives aux nombres et aux variables apparaissant dans un problème mathématique donné. Une explication fidèle est une explication qui représente avec précision le processus de raisonnement menant à l'équation de solution du modèle. Le modèle EPT-X atteint une performance moyenne de 69,59 % sur notre jeu de données PEN, tout en produisant des explications dont la qualité est comparable à celle des explications humaines. Cette étude présente deux contributions principales. (1) Modèle EPT-X : un modèle neuronal explicite qui établit une référence (baseline) pour la tâche de résolution de problèmes algébriques, en termes de précision du modèle, de plausibilité et de fidélité. (2) Nouveau jeu de données : nous mettons à disposition un jeu de données original, PEN (Problèmes avec Explications pour les Nombres), qui enrichit les jeux de données existants en associant une explication à chaque nombre ou variable.