基于AI的文本边界检测技术——RoFT

由于大型语言模型的快速发展，人们越来越频繁地遇到可能是由人类开始撰写但后续部分由机器生成的文本。检测此类文本中人类撰写部分与机器生成部分之间的边界是一个具有挑战性的问题，尚未在文献中得到充分关注。我们试图填补这一空白，并探讨几种将最先进的文本检测分类器适应于边界检测的方法。我们通过使用包含多个主题的短文本以及各种语言模型生成内容的“真实或虚假”文本基准测试，将所有检测器推向极限。我们利用这种多样性深入研究了所有检测器在跨域和跨模型设置中的鲁棒性，为未来的研究提供了基线和洞见。特别是，我们发现基于困惑度的方法在处理特定领域数据时比监督微调的RoBERTa模型更具鲁棒性；此外，我们还发现了哪些文本特征会混淆边界检测算法，并对其在跨域设置中的性能产生负面影响。