HyperAIHyperAI

Command Palette

Search for a command to run...

vor 4 Monaten

BioLay_AK_SS im Rahmen von BioLaySumm: Domänenanpassung durch zweistufiges Feinabstimmen von Large Language Models zur Generierung biomedizinischer Laiensummen

{Seba Susan Akanksha Karotia}

BioLay_AK_SS im Rahmen von BioLaySumm: Domänenanpassung durch zweistufiges Feinabstimmen von Large Language Models zur Generierung biomedizinischer Laiensummen

Abstract

Die Erstellung von populärwissenschaftlichen Zusammenfassungen ist entscheidend, aber herausfordernd, da sie wissenschaftliche Informationen für Laien verständlich macht und sie über die neuesten wissenschaftlichen Erkenntnisse auf dem Laufenden hält. Bei unserer Teilnahme am Shared Task: Lay Summarization of Biomedical Research Articles @ BioNLP Workshop (Goldsack et al., 2024), ACL 2024, führten wir eine umfassende Evaluation der abstraktiven Zusammenfassung biomedizinischer Literatur mittels Großmodellen für Sprachverarbeitung (Large Language Models, LLMs) durch und bewerteten die Leistungsfähigkeit mit zehn Metriken aus drei Kategorien: Relevanz, Lesbarkeit und Faktengenauigkeit, basierend auf den von den Organisatoren bereitgestellten Datensätzen eLife und PLOS. Wir entwickelten einen zweistufigen Ansatz für die Erstellung populärwissenschaftlicher Zusammenfassungen biomedizinischer Forschungsartikel. Im ersten Schritt generierten wir Zusammenfassungen mithilfe der LLMs BART und PEGASUS, indem wir diese anhand der gegebenen Datensätze fine-tunten. Im zweiten Schritt kombinierten wir die generierten Zusammenfassungen und gaben sie als Eingabe an BioBART, das anschließend an denselben Datensätzen fine-tunten wurde. Unsere Ergebnisse zeigen, dass die Kombination allgemeiner und fachspezifischer LLMs die Gesamtleistung signifikant verbessert.

Benchmarks

BenchmarkMethodikMetriken
abstractive-text-summarization-on-elifeTwo stage LLMs
Test ROGUE-1: 0.4635
abstractive-text-summarization-on-plosTwo stage LLMs
Test ROGUE-1: 0.4396

KI mit KI entwickeln

Von der Idee bis zum Start — beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und den besten GPU-Preisen.

KI-Co-Coding
Sofort einsatzbereit GPUs
Beste Preise
Jetzt starten

Hyper Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp
BioLay_AK_SS im Rahmen von BioLaySumm: Domänenanpassung durch zweistufiges Feinabstimmen von Large Language Models zur Generierung biomedizinischer Laiensummen | Forschungsarbeiten | HyperAI