Neuronale Qualitätsbewertung mit mehreren Hypothesen für die grammatische Fehlerkorrektur

Die Korrektur grammatikalischer Fehler (GEC) hat das Ziel, Schreibfehler zu korrigieren und Sprachlernenden bei der Verbesserung ihrer Schreibfähigkeiten zu helfen. Bestehende GEC-Modelle neigen jedoch dazu, falsche Korrekturen vorzuschlagen oder viele Fehler nicht zu erkennen. Ein Qualitätsabschätzungsmodell ist notwendig, um sicherzustellen, dass Lernende genaue GEC-Ergebnisse erhalten und von schlecht korrigierten Sätzen nicht irreführt werden. Gut trainierte GEC-Modelle können durch Dekodierung mehrere hochwertige Hypothesen erzeugen, wie zum Beispiel durch Beam Search, die wertvolles GEC-Beweismaterial liefern und zur Bewertung der GEC-Qualität verwendet werden können. Bestehende Modelle ignorieren jedoch mögliche GEC-Beweise aus verschiedenen Hypothesen. In dieser Arbeit stellen wir das Neuronale Verifikationsnetzwerk (Neural Verification Network, VERNet) für die Qualitätsabschätzung von GEC mit mehreren Hypothesen vor. VERNet etabliert Interaktionen zwischen den Hypothesen durch einen Schlussfolgerungsgraphen und führt zwei Arten von Aufmerksamkeitsmechanismen durch, um GEC-Beweise zu verbreiten und die Qualität der generierten Hypothesen zu verifizieren. Unsere Experimente anhand von vier GEC-Datensätzen zeigen, dass VERNet erstklassige Leistungen in der Erkennung grammatikalischer Fehler erzielt, die besten Ergebnisse in der Qualitätsabschätzung liefert und die GEC-Leistung durch das Neuanordnen von Hypothesen erheblich verbessert. Alle Daten und Quellcodes sind unter https://github.com/thunlp/VERNet verfügbar.