HyperAIHyperAI

Command Palette

Search for a command to run...

vor 4 Monaten

End-to-End Deep Reinforcement Learning-basierte Coreferenzauflösung

{Hongliang Fei Xu Li Dingcheng Li Ping Li}

End-to-End Deep Reinforcement Learning-basierte Coreferenzauflösung

Abstract

Neuere neuronale Netzwerkmodelle haben die Aufgabe der Kernreferenzauflösung erheblich vorangebracht. Allerdings werden aktuelle neuronale Kernreferenzmodelle üblicherweise mit heuristischen Verlustfunktionen trainiert, die über eine Folge lokaler Entscheidungen berechnet werden. In diesem Artikel stellen wir ein end-to-end-Modell zur Kernreferenzauflösung basierend auf Verstärkendem Lernen vor, das direkt Kernreferenzbewertungsmetriken optimiert. Konkret modifizieren wir den Stand der Technik im Bereich der höherstufigen Erwähnungsranking-Methode aus Lee et al. (2018) zu einem modellbasierten Policy-Gradient-Verfahren, indem wir eine Belohnung einbeziehen, die mit einer Folge von Kernreferenz-Verknüpfungsaktionen assoziiert ist. Darüber hinaus führen wir eine Maximum-Entropy-Regularisierung zur ausreichenden Exploration ein, um zu verhindern, dass das Modell zu früh in ein schlechtes lokales Optimum konvergiert. Unser vorgeschlagenes Modell erreicht eine neue State-of-the-Art-Leistung auf der englischen OntoNotes v5.0-Benchmark-Datenbank.

Benchmarks

BenchmarkMethodikMetriken
coreference-resolution-on-conll-2012reinforced model + ELMO
Avg F1: 73.8
coreference-resolution-on-ontonotesReinforced + ELMo
F1: 73.8

KI mit KI entwickeln

Von der Idee bis zum Start — beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und den besten GPU-Preisen.

KI-Co-Coding
Sofort einsatzbereit GPUs
Beste Preise
Jetzt starten

Hyper Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp
End-to-End Deep Reinforcement Learning-basierte Coreferenzauflösung | Forschungsarbeiten | HyperAI