HyperAIHyperAI

Command Palette

Search for a command to run...

Hierarchisches Poset-Decodieren für zusammengesetzte Generalisierung in Sprache

Yinuo Guo Zeqi Lin Jian-Guang Lou Dongmei Zhang

Zusammenfassung

Wir formalisieren das Verständnis menschlicher Sprache als eine strukturierte Vorhersagetaufgabe, bei der die Ausgabe eine partiell geordnete Menge (poset) ist. Aktuelle Encoder-Decoder-Architekturen berücksichtigen die Poset-Struktur der Semantik nicht angemessen, wodurch sie eine schlechte kompositionelle Generalisierungsfähigkeit aufweisen. In diesem Paper stellen wir ein neuartiges hierarchisches Poset-Decoding-Paradigma für die kompositionelle Generalisierung in Sprache vor. Intuitiv: (1) Das vorgeschlagene Paradigma setzt partielle Permutationsinvarianz in der Semantik voraus, wodurch Überanpassung an voreingenommene Ordnungsinformationen vermieden wird; (2) Die hierarchische Mechanik ermöglicht die Erfassung hochwertiger Strukturen von Posets. Wir evaluieren unseren vorgeschlagenen Decoder anhand des Datensatzes Compositional Freebase Questions (CFQ), eines großen und realistischen Datensatzes für natürlichsprachliche Fragebeantwortung, der speziell zur Messung der kompositionellen Generalisierung konzipiert wurde. Die Ergebnisse zeigen, dass er gegenwärtige Decoder übertrifft.


KI mit KI entwickeln

Von der Idee bis zum Launch – beschleunigen Sie Ihre KI-Entwicklung mit kostenlosem KI-Co-Coding, sofort einsatzbereiter Umgebung und bestem GPU-Preis.

KI-gestütztes kollaboratives Programmieren
Sofort einsatzbereite GPUs
Die besten Preise

HyperAI Newsletters

Abonnieren Sie unsere neuesten Updates
Wir werden die neuesten Updates der Woche in Ihren Posteingang liefern um neun Uhr jeden Montagmorgen
Unterstützt von MailChimp