HyperAIHyperAI

Command Palette

Search for a command to run...

vor 4 Monaten

Pyramide: Ein geschichtetes Modell für verschachtelte benannte Entitäts Erkennung

{Jue Wang Lidan Shou Ke Chen Gang Chen}

Pyramide: Ein geschichtetes Modell für verschachtelte benannte Entitäts Erkennung

Abstract

Diese Arbeit präsentiert Pyramid, ein neuartiges geschichtetes Modell für die erweiterte benannte Entitätserkennung (Nested Named Entity Recognition, nested NER). In unserem Ansatz werden Token- oder Textbereichs-Embeddings rekursiv von der untersten zur obersten Schicht durch L flache NER-Schichten geleitet, die pyramidenförmig gestapelt sind. Bei jedem Durchlauf durch eine Schicht der Pyramide wird die Länge des Embeddings um eins reduziert. Der verborgene Zustand auf Schicht l repräsentiert ein l-gramm im Eingabetext und wird nur dann beschriftet, wenn der entsprechende Textbereich eine vollständige Entitätsmenge darstellt. Zudem haben wir eine umgekehrte Pyramide entworfen, um bidirektionale Wechselwirkungen zwischen den Schichten zu ermöglichen. Die vorgeschlagene Methode erreicht state-of-the-art F1-Scores bei der nested NER auf den Datensätzen ACE-2004, ACE-2005, GENIA und NNE – jeweils 80,27, 79,42, 77,78 und 93,70 mit herkömmlichen Embeddings sowie 87,74, 86,34, 79,31 und 94,68 mit vortrainierten kontextuellen Embeddings. Darüber hinaus kann unser Modell auch für die allgemeinere Aufgabe der überlappenden benannten Entitätserkennung (Overlapping Named Entity Recognition) eingesetzt werden. Eine vorläufige Experimentierung bestätigt die Wirksamkeit unseres Ansatzes auch in der überlappenden NER.

Benchmarks

BenchmarkMethodikMetriken
nested-named-entity-recognition-on-geniaPyramid
F1: 77.78
nested-named-entity-recognition-on-geniaPyramid + BERT
F1: 79.19
nested-named-entity-recognition-on-nnePyramid
Micro F1: 94.68

KI mit KI entwickeln

Von der Idee bis zum Start — beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und den besten GPU-Preisen.

KI-Co-Coding
Sofort einsatzbereit GPUs
Beste Preise
Jetzt starten

Hyper Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp