ReMO (Related Memory Object) finden: Eine einfache neuronale Architektur für textbasiertes Schließen

Um die auf Text basierende Frage- und Antwortaufgabe, die relationales Denken erfordert, zu lösen, ist es notwendig, eine große Menge an Informationen zu speichern und daraus die für die Frage relevante Information zu extrahieren. Die meisten Ansätze basierten auf externem Speicher und den vier Komponenten, die von Memory Network vorgeschlagen wurden. Die charakteristische Komponente unter ihnen war die Art und Weise, wie die notwendige Information gefunden wurde, was sich positiv auf die Leistung auswirkte. Kürzlich wurde ein einfaches, aber leistungsfähiges neuronales Netzwerkmodul zur Schlussfolgerung eingeführt, das als Relation Network (RN) bezeichnet wird. Wir haben RN aus der Perspektive des Memory Networks analysiert und festgestellt, dass seine MLP-Komponente in der Lage ist, komplexe Beziehungen zwischen Frage und Objektpaar zu enthüllen. Angeregt durch diese Erkenntnis führen wir einen Ansatz ein, der MLP verwendet, um relevante Informationen im Memory Network-Architekturmodell zu identifizieren. Dies zeigt neue Stand der Technik-Ergebnisse bei gemeinsam trainierten bAbI-10k geschichtsbasierten Frage- und Antwortaufgaben sowie bAbI dialogbasierten Frage- und Antwortaufgaben.