ReasoNet: Lernen, das Lesen in der Maschinellen Verständigung zu beenden

Das Beibringen eines Computers, allgemeine Fragen zu einem Dokument zu beantworten, ist eine herausfordernde und bisher nicht vollständig gelöste Aufgabe. In dieser Arbeit beschreiben wir eine neuartige neuronale Netzwerkarchitektur, die Reasoning Network (ReasoNet) genannt wird, für Maschinelles Verstehen. ReasoNets nutzen mehrere Durchgänge, um die Beziehungen zwischen Anfragen, Dokumenten und Antworten effektiv auszuwerten und darüber nachzudenken. Im Gegensatz zu früheren Ansätzen, die während der Inferenz eine feste Anzahl von Durchgängen verwenden, führen ReasoNets einen Endzustand ein, um diese Einschränkung der Nachdenkentiefe aufzuheben. Mit Hilfe des Reinforcement Learnings können ReasoNets dynamisch entscheiden, ob sie den Verstehensprozess nach der Verarbeitung von Zwischenergebnissen fortsetzen oder das Lesen beenden, wenn sie zu dem Schluss kommen, dass die vorhandenen Informationen ausreichen, um eine Antwort zu generieren. ReasoNets haben außergewöhnliche Leistungen in Datensätzen für maschinelles Verstehen erzielt, darunter unstrukturierte CNN- und Daily-Mail-Datensätze sowie der strukturierte Graph-Reachability-Datensatz von Stanford (SQuAD).