HyperAIHyperAI

Command Palette

Search for a command to run...

Die Einreichung von Facebook FAIR für die WMT19 News Translation Task

Nathan Ng Kyra Yee Alexei Baevski Myle Ott Michael Auli Sergey Edunov

Zusammenfassung

Dieses Papier beschreibt die Einreichung von Facebook FAIR für die gemeinsame Übersetzungsaufgabe im Rahmen der WMT19 (Shared News Translation Task). Wir nehmen an zwei Sprachpaaren und vier Übersetzungsrichtungen teil: Englisch <-> Deutsch und Englisch <-> Russisch. Im Anschluss an unsere Einreichung des letzten Jahres basieren unsere Baseline-Systeme auf großen BPE-basierten Transformer-Modellen, die mit dem Fairseq-Sequenzmodellierungstoolkit trainiert wurden und auf sampelten Rückübersetzungen (back-translations) aufbauen. In diesem Jahr experimentieren wir mit verschiedenen Bitext-Datenfilterverfahren sowie mit dem Hinzufügen gefilterter Rückübersetzungsdaten. Zudem kombinieren und feinjustieren wir unsere Modelle an domänenspezifischen Daten, um anschließend die Dekodierung unter Verwendung eines noisy channel Modells zur Neubewertung durchzuführen. Unsere Einreichungen erreichen den ersten Platz in allen vier Richtungen der menschlichen Evaluierungskampagne. Bei der Übersetzung von Englisch nach Deutsch übertrifft unser System nicht nur andere Systeme, sondern auch menschliche Übersetzungen erheblich. Dieses System verbessert sich gegenüber unserer WMT18-Einreichung um 4,5 BLEU-Punkte.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp