HyperAIHyperAI

Command Palette

Search for a command to run...

Saama Research am MEDIQA 2019: Vortrainiertes BioBERT mit Aufmerksamkeitsvisualisierung für medizinische natürliche Sprachinferenz

Suriyadeepan Ramamoorthy Soham Chatterjee Malaikannan Sankarasubbu Kamal raj Kanakarajan Vaidheeswaran Archana

Zusammenfassung

Natürliche Sprachinferenz ist die Aufgabe, die Beziehung zwischen zwei Sätzen als Implikation, Widerspruch oder Neutralität zu identifizieren. MedNLI ist eine biomedizinische Variante der natürlichen Sprachinferenz im klinischen Bereich. Diese Arbeit untersucht den Einsatz von Bidirectional Encoder Representations from Transformers (BERT) zur Lösung des MedNLI-Problems. Das vorgeschlagene Modell, das auf PMC und PubMed vortrainiert und anschließend auf MIMIC-III v1.4 fine-tuned wurde, erreicht state-of-the-art-Ergebnisse auf MedNLI (83,45 %) sowie eine Genauigkeit von 78,5 % im MEDIQA-Wettbewerb. Die Autoren präsentieren eine Analyse der sich während des Trainings von BERT auf MedNLI ergebenden Aufmerksamkeitsmuster, die mithilfe eines Visualisierungstools, namens bertviz, durchgeführt wurde.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp