HyperAIHyperAI
vor 18 Tagen

Verbesserung der dokumentweiten Relationsextraktion durch Kontextualisierung von Erwähnungsrepräsentationen und Gewichtung von Erwähnungspaaren

{Ping Jiang;Xian-Ling Mao;Binbin Bian;Heyan Huang}
Abstract

Die extraktive Relationserkennung auf Dokumentebene (Document-level Relation Extraction, RE) hat erhebliche Aufmerksamkeit erlangt, da eine große Anzahl von relationalen Fakten über mehrere Sätze hinweg ausgedrückt wird. In jüngster Zeit haben Encoder-Aggregator-basierte Modelle für die Dokumentebene-RE vielversprechende Ergebnisse gezeigt. Diese Modelle weisen jedoch zwei wesentliche Nachteile auf: (i) Sie können bei geringem Rechenaufwand keine kontextualisierten Repräsentationen eines Vorkommnisses erzeugen, wenn dieses in verschiedenen Entitätenpaaren vorkommt; (ii) Sie ignorieren die unterschiedlichen Gewichte der Vorkommnispaares für ein Zielentitätenpaar. Um diese beiden Probleme anzugehen, schlagen wir in diesem Artikel ein neues Encoder-Attender-Aggregator-Modell vor, das zwei Attender zwischen Encoder und Aggregator integriert. Konkret wird zunächst ein gegenseitiger Attender (mutual attender) auf die ausgewählten Kopf- und Endvorkommnisse angewendet, um effizient kontextualisierte Vorkommnisse-Repräsentationen zu generieren. Anschließend wird ein Integrations-Attender (integration attender) eingesetzt, um die Vorkommnispaares eines Zielentitätenpaares gewichtete zu berücksichtigen. Umfassende Experimente auf zwei Dokumentebene-RE-Datensätzen zeigen, dass das vorgeschlagene Modell die derzeit besten Baselines übertrifft. Unser Quellcode ist öffentlich über „https://github.com/nefujiangping/EncAttAgg“ zugänglich.