Lernen semantischer Parser aus Denotationen mit latenten strukturierten Alignment und abstrakten Programmen

Die semantische Parsing-Zielsetzung besteht darin, natürliche Sprachäußerungen auf maschineninterpretierbare Bedeutungsrepräsentationen, also Programme, abzubilden, deren Ausführung in einer realen Umgebung eine Denotation erzeugt. Schwach beschriftete semantische Parser werden auf Paaren aus Äußerung und Denotation trainiert, wobei Programme als latente Variablen behandelt werden. Die Aufgabe ist herausfordernd aufgrund des großen Suchraums und der Spuriousness von Programmen, die zwar korrekt auf die gegebene Antwort ausführen können, jedoch nicht auf unbekannte Beispiele generalisieren. Unser Ziel ist es, dem Parser eine induktive Bias zu vermitteln, um zwischen spurious und korrekten Programmen zu unterscheiden. Wir nutzen die Intuition, dass korrekte Programme bestimmte strukturelle Einschränkungen respektieren würden, wenn sie mit der Frage aligniert würden (z. B. sind Überlappungen von Textstellen, die einem Programmfragment zugeordnet sind, unwahrscheinlich), und schlagen vor, Alignments als strukturierte latente Variablen zu modellieren. Um das latente-Alignment-Framework handhabbar zu machen, zerlegen wir die Parsing-Aufgabe in (1) die Vorhersage eines partiellen „abstrakten Programms“ und (2) die Nachbearbeitung unter gleichzeitiger Modellierung strukturierter Alignments mittels differenzieller dynamischer Programmierung. Wir erzielen state-of-the-art Ergebnisse auf den Datensätzen WIKITABLEQUESTIONS und WIKISQL. Im Vergleich zu einer Standard-Attention-Baseline zeigen wir, dass die vorgeschlagene strukturierte-Alignment-Mechanismus äußerst vorteilhaft ist.