用于对话拆解的大规模语料库

在单一消息流中拆分交织在一起的对话是一项艰巨的任务，这一任务因缺乏大规模人工标注的数据集而变得更加困难。我们创建了一个新的数据集，包含77,563条人工标注的消息，这些消息通过回复结构图不仅拆分了对话，还定义了对话的内部结构。我们的数据集比之前所有发布的数据集总和大16倍，是首个包含注释分歧裁决的数据集，也是首个包含上下文的数据集。我们利用这些数据重新审视了先前的研究工作，特别是发现，在一个广泛使用的对话语料库中，80%的对话要么缺少消息，要么包含多余的消息。我们的人工标注数据为开发稳健的数据驱动方法以实现对话拆分提供了机会，这将有助于推动对话研究的发展。