HyperAIHyperAI

Command Palette

Search for a command to run...

Faktorisierung von Inhalt und Budgetentscheidungen in der abstraktiven Zusammenfassung langer Dokumente

Marcio Fonseca Yftah Ziser Shay B. Cohen

Zusammenfassung

Wir argumentieren, dass die Trennung der Inhaltsauswahl von dem Budget, das zur Abdeckung hervorstechender Inhalte verwendet wird, die Leistungsfähigkeit und Anwendbarkeit abstraktiver Zusammenfassungsmodelle verbessert. Unser Ansatz, FactorSum, realisiert diese Trennung durch eine Faktorisierung der Zusammenfassung in zwei Schritte mittels einer Energiefunktion: (1) Erzeugung abstrakter Zusammenfassungsansichten; (2) Kombination dieser Ansichten zu einer endgültigen Zusammenfassung unter Berücksichtigung eines Budgets und inhaltlicher Anleitung. Diese Anleitung kann aus verschiedenen Quellen stammen, beispielsweise aus einem Beratermodell wie BART oder BigBird, oder im Oracle-Modus – direkt aus der Referenzzusammenfassung. Diese Faktorisierung erreicht signifikant höhere ROUGE-Scores auf mehreren Benchmarks für die Zusammenfassung langer Dokumente, nämlich PubMed, arXiv und GovReport. Besonders hervorzuheben ist, dass unser Modell auch für den Bereich der Domänenanpassung wirksam ist. Wenn es ausschließlich auf PubMed-Daten trainiert wird, erzielt es auf arXiv einen ROUGE-1-Score von 46,29, was auf eine starke Leistung hindeutet, verursacht durch eine flexiblere Anpassung des Budgets und eine Inhaltsauswahl, die weniger von domänenspezifischen Textstrukturen abhängt.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp