HyperAIHyperAI

Command Palette

Search for a command to run...

Kontrastive Dreierextraktion mit generativem Transformer

Hongbin Ye Ningyu Zhang Shumin Deng Mosha Chen Chuanqi Tan Fei Huang Huajun Chen

Zusammenfassung

Die Dreifachextraktion ist eine zentrale Aufgabe im Bereich der Informationsextraktion für die natürliche Sprachverarbeitung und die Konstruktion von Wissensgraphen. In diesem Paper betrachten wir erneut die end-to-end-Dreifachextraktion im Rahmen der Sequenzgenerierung. Da die generative Dreifachextraktion Schwierigkeiten haben kann, langfristige Abhängigkeiten zu erfassen und untreue Tripel zu generieren, stellen wir ein neuartiges Modell vor: die kontrastive Dreifachextraktion mit einem generativen Transformer. Konkret führen wir einen einzigen gemeinsamen Transformer-Modul für encoder-decoder-basierte Generierung ein. Um treue Ergebnisse zu erzielen, schlagen wir ein neuartiges Triplet-Kontrasttraining-Objekt vor. Zudem führen wir zwei Mechanismen zur weiteren Verbesserung der Modellleistung ein (nämlich batchweise dynamische Aufmerksamkeitsmaskierung und tripletweise Kalibrierung). Experimentelle Ergebnisse auf drei Datensätzen (NYT, WebNLG und MIE) zeigen, dass unser Ansatz eine bessere Leistung als die Baselines erzielt.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp