17 天前
用于组合泛化的代数重组学习
Chenyao Liu, Shengnan An, Zeqi Lin, Qian Liu, Bei Chen, Jian-Guang Lou, Lijie Wen, Nanning Zheng, Dongmei Zhang

摘要
神经序列模型在语义解析任务中表现出有限的组合泛化能力。组合泛化要求进行代数重组合,即以递归方式动态重组结构化表达式。然而,以往大多数研究主要聚焦于词法单元的重组合,这虽然是代数重组合的重要组成部分,但并非充分条件。本文提出LeAR,一种端到端的神经模型,用于学习代数重组合以实现组合泛化。其核心思想是将语义解析任务建模为潜在句法代数与语义代数之间的同态映射,从而促进代数重组合的实现。具体而言,我们联合学习两个模块:用于生成潜在句法的Composer模块,以及用于赋予语义操作的Interpreter模块。在两个真实且全面的组合泛化基准上的实验结果证明了所提模型的有效性。项目源代码已公开,可访问 https://github.com/microsoft/ContextualSP。