HyperAIHyperAI

Command Palette

Search for a command to run...

Die Brücke zwischen Wissensbasis und Text: Nutzung strukturiert wissensbasierter Vorabtrainings für KBQA

Zusammenfassung

Wissensbasierter Fragebeantwortung (KBQA) zielt darauf ab, natürlichsprachliche Fragen mit faktischen Informationen wie Entitäten und Relationen aus Wissensbasen zu beantworten. Allerdings stellen traditionelle vortrainierte Sprachmodelle (PLMs), die direkt auf umfangreichen natürlichsprachlichen Korpora vortrainiert werden, Herausforderungen bei der Verständnis- und Darstellungsfähigkeit komplexer Subgraphen in strukturierten Wissensbasen dar. Um die Lücke zwischen Texten und strukturierten Wissensbasen zu schließen, schlagen wir eine vortrainierte Methode mit strukturiertem Wissen (SKP) vor. Im Vortrainingsstadium führen wir zwei neuartige Aufgaben ein, die das Modell effektiv leiten, um die implizite Beziehung zu lernen und bessere Darstellungen komplexer Subgraphen zu erzeugen. Für die nachgelagerte KBQA-Aufgabe entwickeln wir außerdem eine effiziente Linearisierungsstrategie und einen Intervall-Aufmerksamkeitsmechanismus, die das Modell dabei unterstützen, komplexe Subgraphen besser zu kodieren und die Störung durch irrelevante Subgraphen während des Schließens abzuschirmen. Detaillierte Experimente und Analysen auf WebQSP bestätigen die Effektivität von SKP, insbesondere die erhebliche Verbesserung der Subgraph-Retrieval-Genauigkeit (+4,08% H@10).


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp