摘要
理解用户对话中的毒性问题无疑是一个重要的课题。处理“隐蔽”或隐含的毒性案例尤为困难，这需要考虑上下文环境。以往的研究中，很少有分析会话上下文对人类感知或自动化检测模型影响的。本文深入探讨了这两个方向。首先，我们分析了现有的上下文数据集，得出结论：人类在标记毒性时通常受到会话结构、情感极性和话题的影响。接着，我们提出将这些发现引入计算检测模型中，通过引入和评估（a）能够识别会话结构的神经架构以进行上下文毒性检测，以及（b）有助于建模上下文毒性检测的数据增强策略。我们的研究结果表明，能够识别会话结构的神经架构具有令人鼓舞的潜力。此外，我们还证明了这类模型可以从合成数据中获益，尤其是在社交媒体领域。