HyperAIHyperAI

Command Palette

Search for a command to run...

JointGT: Graph-Text Joint Representation Learning for Text Generation from Knowledge Graphs Übersetzung: JointGT: Gemeinsames Lernverfahren für die Darstellung von Graphen und Texten zur Textgenerierung aus Wissensgraphen

Pei Ke Haozhe Ji Yu Ran Xin Cui Liwei Wang Linfeng Song Xiaoyan Zhu Minlie Huang

Zusammenfassung

Bestehende vortrainierte Modelle für die Generierung von Text aus Wissensgraphen (KG-to-Text) feinjustieren einfach nur textbasierte vortrainierte Modelle wie BART oder T5 an KG-to-Text-Datensätzen, wobei sie während der Kodierung weitgehend die Graphstruktur außer Acht lassen und präzise Vortrainingsaufgaben zur expliziten Modellierung von Graph-Text-Ausrichtungen fehlen. Um diese Probleme zu lösen, schlagen wir ein Modell für die gemeinsame Repräsentationslernen von Graphen und Texten vor, das JointGT genannt wird. Während der Kodierung haben wir ein strukturbewusstes semantisches Aggregationsmodul entwickelt, das in jede Transformer-Schicht eingefügt wird, um die Graphstruktur zu bewahren. Darüber hinaus schlagen wir drei neue Vortrainingsaufgaben vor, um die Graph-Text-Ausrichtung explizit zu verbessern: jeweilige Text-/Graph-Rekonstruktion und Graph-Text-Ausrichtung im Einbettungsraum durch Optimal Transport. Experimente zeigen, dass JointGT auf verschiedenen KG-to-Text-Datensätzen neue Standarts der Technik erzielt.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp
JointGT: Graph-Text Joint Representation Learning for Text Generation from Knowledge Graphs Übersetzung: JointGT: Gemeinsames Lernverfahren für die Darstellung von Graphen und Texten zur Textgenerierung aus Wissensgraphen | Paper | HyperAI