HyperAIHyperAI

Command Palette

Search for a command to run...

vor 4 Monaten

Auswahl optimaler Kontextsätze für die Extraktion von Ereignis-Ereignis-Beziehungen

{and Thien Huu Nguyen Linh Van Ngo Nghia Ngo Trung Hieu Man Duc Trong}

Abstract

Die Erfassung von Ereignissen erfordert die Erkennung der strukturellen und zeitlichen Beziehungen zwischen Ereignisverweisen, um Ereignisstrukturen bzw. -graphen für Eingabedokumente zu erstellen. Um dieses Ziel zu erreichen, widmen sich unsere Arbeiten den Problemen der Unterereignis-Relationsextraktion (SRE) und der zeitlichen Ereignis-Relationsextraktion (TRE), die darauf abzielen, Unterereignis- und zeitliche Relationen zwischen zwei gegebenen Ereignisverweisen/Trigger in Texten vorherzusagen. Kürzlich etablierte State-of-the-Art-Methoden für diese Aufgaben haben transformerbasierte Sprachmodelle (z. B. BERT) eingesetzt, um effektive kontextuelle Repräsentationen für Eingabepaare von Ereignisverweisen zu erzeugen. Ein wesentlicher Nachteil bestehender transformerbasierter Modelle für SRE und TRE liegt jedoch darin, dass sie nur Eingabetexte begrenzter Länge verarbeiten können (d. h. bis zu 512 Subtokens in BERT), wodurch sie wichtige Kontextsätze, die weiter entfernt im Dokument liegen, nicht effektiv erfassen können. In dieser Arbeit stellen wir eine neuartige Methode vor, um den dokumentweiten Kontext mit wichtigen Kontextsätzen für die Ereignis-Ereignis-Relationsextraktion besser zu modellieren. Unsere Methode zielt darauf ab, die wichtigsten Kontextsätze für ein gegebenes Ereignisverweispaar in einem Dokument zu identifizieren und diese in kürzere Dokumente zu packen, die vollständig von transformerbasierten Sprachmodellen zur Repräsentationslernung verarbeitet werden können. Zur Modelltrainierung wird der REINFORCE-Algorithmus eingesetzt, wobei neuartige Belohnungsfunktionen vorgestellt werden, um die Modellleistung sowie die kontextbasierte und wissenbasierte Ähnlichkeit zwischen Sätzen für unser Problem zu erfassen. Umfassende Experimente belegen die Wirksamkeit der vorgeschlagenen Methode und zeigen einen State-of-the-Art-Performance auf Benchmark-Datensätzen.

KI mit KI entwickeln

Von der Idee bis zum Start — beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und den besten GPU-Preisen.

KI-Co-Coding
Sofort einsatzbereit GPUs
Beste Preise
Jetzt starten

Hyper Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp
Auswahl optimaler Kontextsätze für die Extraktion von Ereignis-Ereignis-Beziehungen | Forschungsarbeiten | HyperAI