面向说话者的BERT在基于检索的聊天机器人中的多轮响应选择

本文研究了在基于检索的聊天机器人中应用预训练语言模型进行多轮响应选择的问题。为了使模型能够识别说话者变化的信息（这是多轮对话中的一个重要且内在的属性），我们提出了一种新的模型，称为说话者感知BERT（SA-BERT）。此外，还提出了一种说话者感知的解缠策略，以应对复杂的对话情况。该策略根据其中的说话者信息选择少数最重要的语句作为过滤后的上下文。最后，进行了领域适应，以便将领域内知识融入预训练语言模型中。在五个公开数据集上的实验表明，我们提出的模型在所有指标上均大幅优于现有模型，并在多轮响应选择任务上达到了新的最先进水平。