U-Net: Maschinelles Leseverständnis mit unbeantwortbaren Fragen

Maschinelles Leseverständnis mit unbeantwortbaren Fragen stellt eine neue, herausfordernde Aufgabe für die Verarbeitung natürlicher Sprache dar. Ein wesentlicher Teilaspekt ist die zuverlässige Vorhersage, ob eine Frage unbeantwortbar ist. In dieser Arbeit schlagen wir ein einheitliches Modell vor, das U-Net genannt wird und drei wichtige Komponenten umfasst: Antwortzeiger (answer pointer), Kein-Antwortzeiger (no-answer pointer) und Antwortverifizierer (answer verifier). Wir führen einen universellen Knoten ein und verarbeiten somit Frage und Kontextpassage als eine einzige kontinuierliche Tokensequenz. Der universelle Knoten kodiert die fusionierte Information aus Frage und Passage und spielt eine entscheidende Rolle bei der Vorhersage, ob die Frage beantwortbar ist. Zudem verbessert er die Kürze des U-Net erheblich. Im Gegensatz zu den neuesten Pipeline-Modellen kann U-Net in einem End-to-End-Prozess gelernt werden. Die experimentellen Ergebnisse auf dem SQuAD 2.0-Datensatz zeigen, dass U-Net effektiv die Unbeantwortbarkeit von Fragen vorhersagen kann und einen F1-Wert von 71,7 auf SQuAD 2.0 erreicht.