AI 放大招,可能终结勇士骑士的粉丝骂战

By 超神经

网络上,有一种人好为人师、喜欢占据道德制高点、以口舌之争获胜为乐,他们就是键盘侠。今天,全网因为「勇士骑士粉丝对喷群」事件引发的各种互怼微信群,更是激发了他们的兴致。其中一部分人跟风去了,但一部分键盘侠四处寻衅滋事、恣意妄言,对于网络和社会都是不和谐的因素。

想找到隐藏在 40 亿网民中的键盘侠们,并准确干预他们是个大难题。纽约时报引入了一个通过 AI 技术实现的工具,似乎能够解决这个问题。

AI 放大招,可能终结勇士骑士的粉丝骂战

在 6 月 1 日结束的 NBA 总决赛第一场里,骑士球员 JR 史密斯因比赛最后 4 秒抢到关键篮板后,没有选择直接投篮而是将球带到中场,导致勇士锁定胜局。

JR 被不少键盘侠怒评「上帝播撒智慧时,JR 在打伞」。

这些讽刺言论也让 JR 在第二场比赛投 9 中 2,全场仅拿到 5 分,这样的表现难说不是受到键盘侠的影响。

不过,纽约时报最近在自家的评论区引入了工具 Perspective,来管理评论区的键盘侠和他们的恶意发言,据说效果不错。

能快速锁定和屏蔽恶意评论的工具

Perspective 是 Jigsaw 公司的主打产品之一,利用机器学习系统,来管理社区言论。Jigsaw 是 Alphabet 旗下一家专门解决网络安全问题的科技公司,他们的 slogan 就是「用技术让世界更安全」,口号可以说很响亮了。

通过机器学习,Perspective 能对大量历史评论进行分析整理,通过「恶意」言论的关键词及其关联词汇来找到那些恶意评论,并按照「恶意级别」进行打分,分数越高,恶意程度也就越高。

AI 放大招,可能终结勇士骑士的粉丝骂战

菱形就是辱骂性评论,方形是负面评论,圆形则为正常评论

根据这些分值,社区管理员可以对评论进行分类管理,从中筛选出合适的评论,而不用彻底关闭评论区。

在 Perspective 的帮助下,纽约时报已经把可开放的评论从 10% 增加到 30% 以上,提升了整个网站的活跃度。

目前 Perspective 只能做到对评论进行打分,帮助管理员进行分类,而不能直接对评论进行管理。不过,Jigsaw 称他们正在努力让 Perspective 做到直接管理,今年晚些时候他们也会发布更多机器学习模型来帮助 Perspective。

评论区里出人才,也出人渣

不仅纽约时报,包括维基百科、经济学人,都开始使用 Perspective 维护自己的社区评论。

大家越来越重视网络社区的留言,主要原因在于一些非理性社区参与者发布的评论会在一定程度上对创作主体造成精神伤害,也就是我们常说的网络暴力。

在美国,约 40% 以上的人正在或曾经经历过网络暴力,键盘侠们「恶意中伤」式的言论,正在成为他们新的精神负担,而精神上的打击比身体上的打击影响更大。

AI 放大招,可能终结勇士骑士的粉丝骂战

不少媒体或社交机构,为了保护作者和读者免受侵扰,只能选择关闭评论,这是不利于作者和读者进行互动的。而这时候,键盘侠们又出现了:wtf,你们居然关了我的评论,你们这是在剥夺我说话的权利。

Perspective 能对中文生效吗?

虽然 Perspective 目前只能识别一些带有言论攻击或低俗字眼的留言,但借助大量数据,Perspective 是能够在技术层面做到识别那些明显和不明想的恶意言论。

但这对于管理社区留言,保护作者和读者而言,已经是一件很有意义的事。

不过话说回来,Perspective 目前能应用在国内的媒体网站上吗?跟英文相比,汉子不仅在字形上更加复杂,一语多关的表达对机器而言也是十分复杂。

估计对于博大精深的中华文化,各种隐喻和流行说法,Perspective 还是稍微有那么些力不从心,不过最起码我们现在还有网警。