HyperAIHyperAI
vor 11 Tagen

Auswahl optimaler Kontextsätze für die Extraktion von Ereignis-Ereignis-Beziehungen

{and Thien Huu Nguyen, Linh Van Ngo, Nghia Ngo Trung, Hieu Man Duc Trong}
Abstract

Die Erfassung von Ereignissen erfordert die Erkennung der strukturellen und zeitlichen Beziehungen zwischen Ereignisverweisen, um Ereignisstrukturen bzw. -graphen für Eingabedokumente zu erstellen. Um dieses Ziel zu erreichen, widmen sich unsere Arbeiten den Problemen der Unterereignis-Relationsextraktion (SRE) und der zeitlichen Ereignis-Relationsextraktion (TRE), die darauf abzielen, Unterereignis- und zeitliche Relationen zwischen zwei gegebenen Ereignisverweisen/Trigger in Texten vorherzusagen. Kürzlich etablierte State-of-the-Art-Methoden für diese Aufgaben haben transformerbasierte Sprachmodelle (z. B. BERT) eingesetzt, um effektive kontextuelle Repräsentationen für Eingabepaare von Ereignisverweisen zu erzeugen. Ein wesentlicher Nachteil bestehender transformerbasierter Modelle für SRE und TRE liegt jedoch darin, dass sie nur Eingabetexte begrenzter Länge verarbeiten können (d. h. bis zu 512 Subtokens in BERT), wodurch sie wichtige Kontextsätze, die weiter entfernt im Dokument liegen, nicht effektiv erfassen können. In dieser Arbeit stellen wir eine neuartige Methode vor, um den dokumentweiten Kontext mit wichtigen Kontextsätzen für die Ereignis-Ereignis-Relationsextraktion besser zu modellieren. Unsere Methode zielt darauf ab, die wichtigsten Kontextsätze für ein gegebenes Ereignisverweispaar in einem Dokument zu identifizieren und diese in kürzere Dokumente zu packen, die vollständig von transformerbasierten Sprachmodellen zur Repräsentationslernung verarbeitet werden können. Zur Modelltrainierung wird der REINFORCE-Algorithmus eingesetzt, wobei neuartige Belohnungsfunktionen vorgestellt werden, um die Modellleistung sowie die kontextbasierte und wissenbasierte Ähnlichkeit zwischen Sätzen für unser Problem zu erfassen. Umfassende Experimente belegen die Wirksamkeit der vorgeschlagenen Methode und zeigen einen State-of-the-Art-Performance auf Benchmark-Datensätzen.

Auswahl optimaler Kontextsätze für die Extraktion von Ereignis-Ereignis-Beziehungen | Neueste Forschungsarbeiten | HyperAI