MemSum: Extraktive Zusammenfassung langer Dokumente mit Hilfe von mehrstufigen episodischen Markov-Entscheidungsprozessen

Wir stellen MemSum (Multi-Schritt Episodischer Markov-Entscheidungsprozess extraktiver SUMmarizer) vor, einen auf Verstärkungslernen basierenden extraktiven Zusammenfassungsverfahren, das bei jedem Schritt mit Informationen über den aktuellen Extraktionsverlauf angereichert wird. Wenn MemSum Sätze iterativ für die Zusammenfassung auswählt, berücksichtigt es eine umfangreiche Informationsmenge, die intuitiv auch von Menschen bei dieser Aufgabe verwendet werden würde: 1) den Textinhalt des Satzes, 2) den globalen Textkontext des Rests des Dokuments und 3) den Extraktionsverlauf, der aus der Menge der bereits extrahierten Sätze besteht. Mit einer leichten Architektur erreicht MemSum den Stand der Technik (ROUGE) bei der Zusammenfassung langer Dokumente aus PubMed, arXiv und GovReport. Abschätzungstests verdeutlichen die Bedeutung von lokalen, globalen und historischen Informationen. Eine menschliche Bewertung bestätigt die hohe Qualität und geringe Redundanz der generierten Zusammenfassungen, die auf MemSum's Bewusstsein für den Extraktionsverlauf zurückzuführen ist.