HyperAIHyperAI

Command Palette

Search for a command to run...

Neurale grammatische Fehlerkorrektur als maschinelle Übersetzaufgabe mit geringen Ressourcen

Marcin Junczys-Dowmunt; Roman Grundkiewicz; Shubha Guha; Kenneth Heafield

Zusammenfassung

Bisher erreichten neuronale Methoden in der grammatischen Fehlerkorrektur (GEC) im Vergleich zu phrasenbasierten statistischen Maschinelle Übersetzung (SMT)-Baselines keine Spitzenleistungen. Wir zeigen Parallelen zwischen neuronalen GEC und ressourcenarmen neuronalen Maschinellen Übersetzungen auf und können mehrere Methoden aus dem Bereich ressourcenarmer MT erfolgreich auf neuronale GEC anwenden. Des Weiteren legen wir Richtlinien für vertrauenswürdige Ergebnisse in der neuronalen GEC fest und schlagen eine Reihe von modellunabhängigen Methoden für neuronale GEC vor, die in den meisten GEC-Einstellungen leicht angewendet werden können. Zu den vorgeschlagenen Methoden gehören das Hinzufügen von Rauschen auf der Quellenseite, Domänenanpassungstechniken, ein spezifisches Trainingsziel für GEC, Transferlernen mit mono-lingualen Daten sowie das Ensemble unabhängig trainierter GEC-Modelle und Sprachmodelle. Die kombinierten Effekte dieser Methoden führen zu besseren als Stand der Technik darstellenden neuronalen GEC-Modellen, die frühere beste neurale GEC-Systeme um mehr als 10% M2^22 auf dem CoNLL-2014-Benchmark und um 5,9% auf dem JFLEG-Testset übertreffen. Nicht-neuronale Systeme des Standes der Technik werden außerdem um mehr als 2% auf dem CoNLL-2014-Benchmark und um 4% auf JFLEG übertroffen.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp
Neurale grammatische Fehlerkorrektur als maschinelle Übersetzaufgabe mit geringen Ressourcen | Paper | HyperAI