HyperAIHyperAI

Command Palette

Search for a command to run...

Hochparalleles autoregressives Entitätensverlinken mit diskriminativer Korrektur

Nicola De Cao; Wilker Aziz; Ivan Titov

Zusammenfassung

Generative Ansätze wurden kürzlich als effektiv für die Entitätserkennung und -verknüpfung (d.h. gemeinsame Erkennung und Auflösung von Erwähnungen) bewiesen. Allerdings leidet die bisher vorgeschlagene autoregressive Formulierung für EL an i) hohen Rechenkosten aufgrund eines komplexen (tiefen) Decoders, ii) nicht parallelisierbarer Dekodierung, die mit der Länge der Quellsequenz skaliert, und iii) dem Bedarf an einer großen Menge an Trainingsdaten. In dieser Arbeit schlagen wir einen sehr effizienten Ansatz vor, der die autoregressive Verknüpfung über alle potentiellen Erwähnungen parallelisiert und sich auf einen flachen und effizienten Decoder stützt. Darüber hinaus ergänzen wir das generative Ziel durch eine zusätzliche diskriminative Komponente, nämlich einen Korrekturterm, der es uns ermöglicht, die Rangfolge des Generators direkt zu optimieren. Zusammen genommen adressieren diese Techniken alle oben genannten Probleme: unser Modell ist mehr als 70-mal schneller und genauer als die bisherige generative Methode und übertreffen den Stand der Technik in den Standard-Englischen Datensätzen AIDA-CoNLL. Der Quellcode ist unter https://github.com/nicola-decao/efficient-autoregressive-EL verfügbar.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp
Hochparalleles autoregressives Entitätensverlinken mit diskriminativer Korrektur | Paper | HyperAI