基于微分方程的潜在空间中可组合的文本控制

现实世界中的文本应用通常涉及多种文本控制操作的组合，例如根据特定属性编辑文本、操纵关键词与文本结构，以及生成具备期望特性的新文本。以往的研究通常通过训练或微调语言模型（LM）来实现单一或特定子集的操作。近期研究尝试以即插即用（plug-and-play）的方式组合多种操作，但往往需要在复杂的序列空间中进行代价高昂的搜索或优化。本文提出一种在文本紧凑隐空间中实现可组合文本操作的新颖高效方法。由于文本隐向量具有低维性和可微性，我们能够基于常微分方程（ODE）构建高效的采样器，从而支持任意插件式操作算子（如属性分类器）的灵活接入。通过高效适配将预训练语言模型（如GPT-2）与隐空间连接，我们可将采样得到的隐向量解码为所需的文本序列。该方法具有高度灵活性，能够整合来自不同领域、基于各类相关数据获得的多样化控制算子（如情感、时态、正式程度、关键词等）。实验结果表明，本方法在隐空间中组合多种控制算子，能够有效生成或编辑高质量文本，在生成质量与计算效率方面均显著优于现有方法。