HyperAIHyperAI

Command Palette

Search for a command to run...

Das Beste von Beidem: Kombination jüngster Fortschritte im Bereich der neuronalen Maschinelle Übersetzung

Zusammenfassung

Im vergangenen Jahr wurden rasche Fortschritte in der sequenzbasierten Modellierung (sequence-to-sequence, seq2seq) für die maschinelle Übersetzung (Machine Translation, MT) beobachtet. Die klassischen RNN-basierten Ansätze zur maschinellen Übersetzung wurden zunächst von dem konvolutionellen seq2seq-Modell übertroffen, das anschließend wiederum vom neueren Transformer-Modell überflügelt wurde. Jeder dieser neuen Ansätze besteht aus einer grundlegenden Architektur, die von einer Reihe von Modellierungs- und Trainingsmethoden begleitet wird, die grundsätzlich auf andere seq2seq-Architekturen anwendbar sind. In dieser Arbeit untersuchen wir die neuen Architekturen und ihre dazugehörigen Techniken auf zwei Arten. Erstens identifizieren wir mehrere Schlüsseltechniken der Modellierung und des Trainings und wenden sie auf die RNN-Architektur an, was zu einem neuen RNMT+-Modell führt, das alle drei grundlegenden Architekturen bei den Benchmark-Aufgaben WMT'14 Englisch-Französisch und Englisch-Deutsch übertreffen kann. Zweitens analysieren wir die Eigenschaften jeder grundlegenden seq2seq-Architektur und entwickeln neue hybride Architekturen, die darauf abzielen, deren Stärken zu kombinieren. Unsere hybriden Modelle erzielen weitere Verbesserungen und übertreffen das RNMT+-Modell in beiden Benchmark-Datensätzen.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp
Das Beste von Beidem: Kombination jüngster Fortschritte im Bereich der neuronalen Maschinelle Übersetzung | Paper | HyperAI