Hochparalleles autoregressives Entitätensverlinken mit diskriminativer Korrektur

Generative Ansätze wurden kürzlich als effektiv für die Entitätserkennung und -verknüpfung (d.h. gemeinsame Erkennung und Auflösung von Erwähnungen) bewiesen. Allerdings leidet die bisher vorgeschlagene autoregressive Formulierung für EL an i) hohen Rechenkosten aufgrund eines komplexen (tiefen) Decoders, ii) nicht parallelisierbarer Dekodierung, die mit der Länge der Quellsequenz skaliert, und iii) dem Bedarf an einer großen Menge an Trainingsdaten. In dieser Arbeit schlagen wir einen sehr effizienten Ansatz vor, der die autoregressive Verknüpfung über alle potentiellen Erwähnungen parallelisiert und sich auf einen flachen und effizienten Decoder stützt. Darüber hinaus ergänzen wir das generative Ziel durch eine zusätzliche diskriminative Komponente, nämlich einen Korrekturterm, der es uns ermöglicht, die Rangfolge des Generators direkt zu optimieren. Zusammen genommen adressieren diese Techniken alle oben genannten Probleme: unser Modell ist mehr als 70-mal schneller und genauer als die bisherige generative Methode und übertreffen den Stand der Technik in den Standard-Englischen Datensätzen AIDA-CoNLL. Der Quellcode ist unter https://github.com/nicola-decao/efficient-autoregressive-EL verfügbar.