Trouver ReMO (Objet Mémoire Associé) : Une Architecture Neuronale Simple pour le Raisonnement Basé sur le Texte

Pour résoudre la tâche de questions-réponses basées sur le texte qui nécessite un raisonnement relationnel, il est essentiel de mémoriser une grande quantité d'informations et d'en extraire celles pertinentes à la question. La plupart des approches étaient fondées sur une mémoire externe et les quatre composants proposés par le réseau de mémoire (Memory Network). Le composant distinctif parmi ceux-ci était la méthode utilisée pour trouver l'information nécessaire, ce qui contribue à la performance du système. Récemment, un module de réseau neuronal simple mais puissant pour le raisonnement, appelé Réseau Relationnel (Relation Network - RN), a été introduit. Nous avons analysé le RN sous l'angle du réseau de mémoire et nous sommes rendus compte que sa composante MLP (Multi-Layer Perceptron) est capable de révéler les relations complexes entre une question et une paire d'objets. Inspirés par cette observation, nous présentons une approche qui utilise l'MLP pour identifier les informations pertinentes dans l'architecture du réseau de mémoire. Cette méthode obtient des résultats inédits dans les tâches de questions-réponses basées sur des histoires et des dialogues du jeu de données bAbI-10k entraînées conjointement.