HyperAIHyperAI
vor 12 Tagen

Retrieve, Rerank und Rewrite: Neuronale Zusammenfassung basierend auf weichen Vorlagen

{Furu Wei, Ziqiang Cao, Wenjie Li, Sujian Li}
Retrieve, Rerank und Rewrite: Neuronale Zusammenfassung basierend auf weichen Vorlagen
Abstract

Die meisten bisherigen seq2seq-Zusammenfassungssysteme stützen sich ausschließlich auf den Quelltext zur Generierung von Zusammenfassungen, was zu instabilen Ergebnissen führt. Inspiriert durch herkömmliche, vorlagebasierte Ansätze zur Zusammenfassung schlagen wir vor, bestehende Zusammenfassungen als sogenannte „soft templates“ zu nutzen, um das seq2seq-Modell zu leiten. Dazu verwenden wir eine gängige Informationsretrieval-(IR)-Plattform, um geeignete Zusammenfassungen als Kandidatenvorlagen abzurufen. Anschließend erweitern wir das seq2seq-Framework, um gleichzeitig die Reranking der Vorlagen und die vorlagenbewusste Zusammenfassungsgenerierung (Umschreibung) durchzuführen. Experimente zeigen, dass unser Modell hinsichtlich der Informativität signifikant die derzeit besten Methoden übertrifft, und selbst die soft templates allein erweisen sich als äußerst wettbewerbsfähig. Zudem verbessert die Einbeziehung hochwertiger externer Zusammenfassungen die Stabilität und Lesbarkeit der generierten Texte.

Retrieve, Rerank und Rewrite: Neuronale Zusammenfassung basierend auf weichen Vorlagen | Neueste Forschungsarbeiten | HyperAI