HyperAIHyperAI
vor 2 Monaten

ReLiK: Retrieve und LinK, Schnell und Genau – Entity Linking und Relation Extraction mit akademischem Budget

Orlando, Riccardo ; Cabot, Pere-Lluis Huguet ; Barba, Edoardo ; Navigli, Roberto
ReLiK: Retrieve und LinK, Schnell und Genau – Entity Linking und Relation Extraction mit akademischem Budget
Abstract

Entitätserkennung (EL) und Relationsextraktion (RE) sind grundlegende Aufgaben in der Natürlichen Sprachverarbeitung (NLP) und dienen als wesentliche Komponenten in einer Vielzahl von Anwendungen. In dieser Arbeit schlagen wir ReLiK vor, eine Retriever-Reader-Architektur für sowohl EL als auch RE. Dabei übernimmt das Retriever-Modul bei gegebenem Eingabetext die Identifizierung von potenziell auftretenden Kandidatenentitäten oder -relationen. Anschließend ist es das Reader-Modul, das die relevanten ermittelten Entitäten oder Relationen auswählt und ihre Zuordnung zu den entsprechenden Textabschnitten festlegt. Bemerkenswert ist hierbei die innovative Eingabedarstellung, die Kandidatenentitäten oder -relationen neben dem Text integriert, was es ermöglicht, Entitäten zu verlinken oder Relationen zu extrahieren, indem nur ein Forward-Pass durchgeführt wird. Dies nutzt die Kontextualisierungsfähigkeiten vorge训练的语言模型(预训练语言模型) vollständig aus, im Gegensatz zu früheren Retriever-Reader-basierten Methoden, die für jeden Kandidaten einen Forward-Pass erfordern. Unsere Formulierung von EL und RE erreicht den aktuellen Stand der Technik sowohl in domänenspezifischen als auch in domänenübergreifenden Benchmarks, wobei wir mit einem akademischen Budget trainiert haben und bis zu 40-mal schnellere Inferenzgeschwindigkeit im Vergleich zu Konkurrenten aufweisen. Schließlich zeigen wir, wie unsere Architektur nahtlos für die Informationsextraktion (cIE), also EL + RE, eingesetzt werden kann und einen neuen Stand der Technik durch den Einsatz eines gemeinsamen Readers erreicht, der gleichzeitig Entitäten und Relationen extrahiert.请注意,最后一句中的“vollständig aus”后面的中文部分可能是误输入。根据上下文,正确的德语翻译应该是:Unsere Formulierung von EL und RE erreicht den aktuellen Stand der Technik sowohl in domänenspezifischen als auch in domänenübergreifenden Benchmarks, wobei wir mit einem akademischen Budget trainiert haben und bis zu 40-mal schnellere Inferenzgeschwindigkeit im Vergleich zu Konkurrenten aufweisen. Schließlich zeigen wir, wie unsere Architektur nahtlos für die Informationsextraktion (cIE), also EL + RE, eingesetzt werden kann und einen neuen Stand der Technik durch den Einsatz eines gemeinsamen Readers erreicht, der gleichzeitig Entitäten und Relationen extrahiert.

ReLiK: Retrieve und LinK, Schnell und Genau – Entity Linking und Relation Extraction mit akademischem Budget | Neueste Forschungsarbeiten | HyperAI