11 天前

知识到SQL:基于数据专家LLM增强SQL生成

Zijin Hong, Zheng Yuan, Hao Chen, Qinggang Zhang, Feiran Huang, Xiao Huang
知识到SQL:基于数据专家LLM增强SQL生成
摘要

将用户问题准确转换为SQL查询(即文本到SQL任务)长期以来一直是一项挑战,因为该过程需要对用户问题以及对应数据库模式(schema)有深入的理解,才能准确检索所需内容。现有方法依赖于大型语言模型(LLMs)强大的综合能力来生成SQL语句。然而,部分必要知识并未明确包含在数据库模式或用户问题中,而是由LLMs在训练过程中隐式学习所得。因此,当面对知识不足的问题时,生成的SQL语句可能不准确,从而对文本到SQL模型的性能与鲁棒性产生负面影响。为应对这一挑战,我们提出了Knowledge-to-SQL框架,该框架引入了专门设计的数据专家大模型(Data Expert LLM, DELLM),旨在为所有文本到SQL模型提供有益的知识支持。具体而言,我们详细阐述了DELLM在表结构读取方面的实现方法以及基础微调流程。此外,我们进一步提出一种基于数据库反馈的偏好学习策略(Preference Learning via Database Feedback, PLDBF),通过利用数据库执行反馈对DELLM进行持续优化,使其能够生成更高质量、更有助于LLM理解与推理的知识。大量实验验证表明,DELLM能够显著提升现有先进文本到SQL方法的性能。相关代码已开源,以支持后续研究工作。

知识到SQL:基于数据专家LLM增强SQL生成 | 最新论文 | HyperAI超神经