Hierarchisches Poset-Decodieren für zusammengesetzte Generalisierung in Sprache

Wir formalisieren das Verständnis menschlicher Sprache als eine strukturierte Vorhersagetaufgabe, bei der die Ausgabe eine partiell geordnete Menge (poset) ist. Aktuelle Encoder-Decoder-Architekturen berücksichtigen die Poset-Struktur der Semantik nicht angemessen, wodurch sie eine schlechte kompositionelle Generalisierungsfähigkeit aufweisen. In diesem Paper stellen wir ein neuartiges hierarchisches Poset-Decoding-Paradigma für die kompositionelle Generalisierung in Sprache vor. Intuitiv: (1) Das vorgeschlagene Paradigma setzt partielle Permutationsinvarianz in der Semantik voraus, wodurch Überanpassung an voreingenommene Ordnungsinformationen vermieden wird; (2) Die hierarchische Mechanik ermöglicht die Erfassung hochwertiger Strukturen von Posets. Wir evaluieren unseren vorgeschlagenen Decoder anhand des Datensatzes Compositional Freebase Questions (CFQ), eines großen und realistischen Datensatzes für natürlichsprachliche Fragebeantwortung, der speziell zur Messung der kompositionellen Generalisierung konzipiert wurde. Die Ergebnisse zeigen, dass er gegenwärtige Decoder übertrifft.