HyperAIHyperAI
vor 11 Tagen

Verbesserung des Encoders durch ergänzende Überwachungsaufgaben für die Tabellen-zu-Text-Generierung

{Dayong Hu, Yinliang Yue, Can Ma, Liang Li}
Verbesserung des Encoders durch ergänzende Überwachungsaufgaben für die Tabellen-zu-Text-Generierung
Abstract

Die Table-to-Text-Generierung zielt darauf ab, automatisch natürliche Sprache zu erzeugen, um Menschen dabei zu unterstützen, relevante Informationen in Tabellen schnell und unkompliziert zu erfassen. Obwohl neuronale Modelle für die Table-to-Text-Generierung erhebliche Fortschritte erzielt haben, bleiben einige Probleme bisher unberücksichtigt. Bisherige Ansätze können die faktischen Ergebnisse nicht ableiten, die sich aus der Leistung von Entitäten (Spieler oder Mannschaften) und den zwischen ihnen bestehenden Beziehungen ergeben. Um dieses Problem zu lösen, bauen wir zunächst aus den Eingabetabellen einen Entitätsgraphen auf und führen einen Schlussfolgerungsmodul ein, der auf diesem Graphen Reasoning durchführt. Zudem bestehen zwischen den Datensätzen unterschiedliche Relationen (z. B. numerische Größenrelationen und Relevanzrelationen) über verschiedene Dimensionen hinweg. Diese Relationen könnten zur Datensatz-zu-Text-Generierung beitragen. Eine herkömmliche Encoder-Architektur ist jedoch darauf nicht ausreichend sensibel. Daher schlagen wir vor, zwei Hilfsaufgaben, die Number Ranking (NR) und die Importance Ranking (IR), einzusetzen, um den Encoder gezielt zu trainieren, um diese unterschiedlichen Relationen zu erfassen. Experimentelle Ergebnisse auf den Datensätzen ROTOWIRE und RW-FG zeigen, dass unsere Methode nicht nur eine gute Generalisierungsfähigkeit aufweist, sondern auch auf mehreren Metriken – inklusive BLEU, Content Selection und Content Ordering – die bisherigen Ansätze übertrifft.

Verbesserung des Encoders durch ergänzende Überwachungsaufgaben für die Tabellen-zu-Text-Generierung | Neueste Forschungsarbeiten | HyperAI