Pyramide: Ein geschichtetes Modell für verschachtelte benannte Entitäts Erkennung

Diese Arbeit präsentiert Pyramid, ein neuartiges geschichtetes Modell für die erweiterte benannte Entitätserkennung (Nested Named Entity Recognition, nested NER). In unserem Ansatz werden Token- oder Textbereichs-Embeddings rekursiv von der untersten zur obersten Schicht durch L flache NER-Schichten geleitet, die pyramidenförmig gestapelt sind. Bei jedem Durchlauf durch eine Schicht der Pyramide wird die Länge des Embeddings um eins reduziert. Der verborgene Zustand auf Schicht l repräsentiert ein l-gramm im Eingabetext und wird nur dann beschriftet, wenn der entsprechende Textbereich eine vollständige Entitätsmenge darstellt. Zudem haben wir eine umgekehrte Pyramide entworfen, um bidirektionale Wechselwirkungen zwischen den Schichten zu ermöglichen. Die vorgeschlagene Methode erreicht state-of-the-art F1-Scores bei der nested NER auf den Datensätzen ACE-2004, ACE-2005, GENIA und NNE – jeweils 80,27, 79,42, 77,78 und 93,70 mit herkömmlichen Embeddings sowie 87,74, 86,34, 79,31 und 94,68 mit vortrainierten kontextuellen Embeddings. Darüber hinaus kann unser Modell auch für die allgemeinere Aufgabe der überlappenden benannten Entitätserkennung (Overlapping Named Entity Recognition) eingesetzt werden. Eine vorläufige Experimentierung bestätigt die Wirksamkeit unseres Ansatzes auch in der überlappenden NER.