Lernen algebraischer Rekombination für zusammengesetzte Generalisierung

Neuronale Sequenzmodelle weisen eine begrenzte kompositionelle Generalisierungsfähigkeit bei semantischen Parsing-Aufgaben auf. Kompositionelle Generalisierung erfordert eine algebraische Rekombination, also die dynamische Neukombination strukturierter Ausdrücke auf rekursive Weise. Die meisten bisherigen Studien konzentrieren sich jedoch hauptsächlich auf die Rekombination lexikalischer Einheiten, was zwar wichtig, aber nicht ausreichend für die vollständige algebraische Rekombination ist. In diesem Artikel stellen wir LeAR vor, ein end-to-end neuronales Modell zur Lernung algebraischer Rekombination für kompositionelle Generalisierung. Der zentrale Ansatz besteht darin, die Aufgabe des semantischen Parsings als Homomorphismus zwischen einer latenten syntaktischen Algebra und einer semantischen Algebra zu modellieren, wodurch die algebraische Rekombination gefördert wird. Konkret lernen wir zwei Module gemeinsam: einen Composer zur Erzeugung latenter Syntax und einen Interpreter zur Zuweisung semantischer Operationen. Experimente an zwei realistischen und umfassenden Benchmarks zur kompositionellen Generalisierung belegen die Wirksamkeit unseres Modells. Der Quellcode ist öffentlich unter https://github.com/microsoft/ContextualSP verfügbar.