HyperAIHyperAI
vor 2 Monaten

Konfidenz durch Aufmerksamkeit

Matīss Rikters; Mark Fishel
Konfidenz durch Aufmerksamkeit
Abstract

Die Aufmerksamkeitsverteilungen der generierten Übersetzungen sind ein nützliches Nebenprodukt von aufmerksamkeitsbasierten rekurrenten neuronalen Netzwerken für Übersetzung und können als weiche Zuordnungen zwischen den Eingabe- und Ausgabetoken behandelt werden. In dieser Arbeit nutzen wir die Aufmerksamkeitsverteilungen als Vertrauensmetrik für die Ausgabübersetzungen. Wir stellen zwei Strategien zur Nutzung der Aufmerksamkeitsverteilungen vor: das Filtern schlechter Übersetzungen aus einem großen rückübersetzten Korpus und die Auswahl der besten Übersetzung in einer hybriden Konfiguration zweier verschiedener Übersetzungssysteme. Obwohl eine manuelle Bewertung nur eine schwache Korrelation zwischen unserer Vertrauensbewertung und menschlichen Urteilen zeigte, zeigten die Anwendungsfälle Verbesserungen von bis zu 2,22 BLEU-Punkten beim Filtern und 0,99 Punkten bei der hybriden Übersetzung, getestet auf Englisch-German (English<->German) und Englisch-Lettisch (English<->Latvian) Übersetzung.