Facebook 四栋办公楼紧急疏散,恐怖主义复仇还是乌龙?

社交媒体已经成为恐怖组织主要的宣传阵地,这也令 Facebook,Twitter 等社交媒体头痛不已。为了打击这些恐怖分子和极端分子,他们会利用 AI 技术及时地自动删除相关帖子。但因此,它们也与恐怖分子结下了恩怨……

根据外媒报道,  太平洋时间 7 月 1 日上午 11 点左右,位于加州 Menlo Park 的 Facebook 办公室里,收到一件「可疑包裹」,常规检测中检测到沙林气体(一种致命神经性毒气),怀疑遭到恐怖袭击,闹得人心惶惶。

目前,联邦调查局(FBI)已经被请求协助此案。

Facebook 总部疑发生沙林毒气袭击

据加州 Menlo Park  警方发言人说,纽约警察局收到有关 Facebook 加州 Menlo Park  办公园区遭遇炸弹威胁的匿名举报,并于下午 4:30  左右向地方当局发出警报。

报道中称,Facebook 收到的可疑包裹是一个 「大型邮件袋」,里面有很多邮件,经过一个 Menlo Park 工厂的邮件扫描机后,被测试为沙林阳性。虽然有可能是误报,但不排除其危险性。

Facebook 紧急疏散 4 座大楼人员后,FBI 已介入调查

由于担心邮件设施中的包装中含有神经毒剂沙林,Facebook 的硅谷园区四个大楼的人员于周二全面撤离。

沙林是一种极易挥发的神经毒剂,因为它能够从液体蒸发到气体。沙林清澈,无色,无味,无味。人们通过皮肤,眼睛或呼吸来接触沙林,一滴针眼大小的沙林就能导致一名成人很快死亡。

这并不是 Facebook 第一次收到恐怖威胁!

在 2018 年当地时间 12 月 11  日下午,美国警方周二因爆炸威胁疏散了 Facebook  总部园区的一座建筑物,但持续数小时的搜查并未发现存在爆炸装置的迹象,后续又解除了警报。

Facebook 遭遇的这些事件,跟他们在网络上,对抗暴力不和谐言论有很大的关系。而 Facebook 作为社交媒体的流量大户,在着手和处理网络环境上,可谓是花费了巨大的力气,甚至还可能冒着生命的危险。

Facebook 上只要出现任何赞扬、支持或是代表全世界散播仇恨、种族主义的极端组织言论,都必须将其删除。因此站在政府立场的 Facebook,却成为了这些组织的攻击对象。

一段小故事:极端观念的形成

在 2014 年前后,正是 ISIS 崛起的那几年,也正是社交媒体、移动互联网信息爆炸的时期。

虽然他们倡导的主张极端保守,但 ISIS 却使用丰富的传播手段,比如推特、脸书和油管这些工具,来宣传极端思想,以此吸引全世界各地的支持者加入他们。

其中脸书和推特都是 ISIS 的重灾区

他们甚至还知道如何打造自己的人设,除了发布残暴的刑罚视频,他们还会充分讨好年轻网友。

甚至打造了一个 「圣战猫咪 Islamic State Cats」的账号,专门发布他们生活中的小猫照片和视频,直到这些账号,被推特和脸书一一关闭。

封号前,这曾是 ISIS 在推特上最受欢迎的账号之一

在 2018 年第一季度,Facebook 一共删除了 2888.37 万条帖子,同时关闭和删除了大约 5.83 亿个虚假账户,这一块主要是指恐怖主义,和仇恨言论的相关信息和账户。

巨头的权力:悄悄抹去不和谐的痕迹

Facebook 表示,在屏蔽和删除帖子的过程中,已经越来越少的依赖人力,目前 99.5 % 与恐怖主义相关的帖子,是由 Facebook 通过人工智能的技术手段找到的。

其中一种技术就是图像识别与匹配,一旦用户发布的图片疑似涉嫌,Facebook 会通过算法实现自动匹配,找出图片是否和  ISIS 的宣传视频有关,或者能否和已删除的极端图片或视频相关联,进而采取封禁措施。

Facebook 的技术团队曾在博客《Rosetta: Understanding text in images and videos with machine learning》中,描述了图像识别工具 Rosetta 是如何运行的。

图像识别工具 Rosetta 为识别阿拉伯语做了特殊处理

Rosetta 使用 Faster R-CNN 检测字符,再通过 CTC(Connectionist Temporal Classification)损失的 ResNet-18 完全卷积模型,来进行文字识别,并用 LSTM 增强准确性。

最终生成的文本识别模型结构

此外,Facebook 还进行着文本分析研究,对网站上恐怖分子可能使用的语言进行解析,一旦发布的内容涉及恐怖主义,立刻就会做出相应的对策。

除了日益强大了的 AI 审核工具,Facebook 也有强大的人工审核团队,他们的安全团队分为社区运营和社区诚信两支队伍。社区诚信团队主要负责建立举报-反应机制的自动化工具。

目前,这支人工审查团队已经达到两万多人,以 Facebook 目前二十亿活跃用户来算,每名安全人员需覆盖十万用户。

能力越大,责任越大

我们所接触的各种资讯,都是通过层层筛过的算法之后,所构建起来的一种景象,Facebook 、Twitter、微博、抖音等平台,每天都屏蔽和下架了大量涉及恐怖、反动、色情等负面的消息内容,不可避免触及到一些组织的利益。

何况在这个世界上,来自于不同的政府、组织、民族、文化的力量都在干预着信息的呈现。

前有 ISIS  袭击法国巴黎的《查理周刊》,现在有 Facebook 屡遭意外事件,技术也好,平台也好,往往宣扬自己的中立立场,但又无法让自己彻底撇清关系。在现在的世界里,好人只有力求自保,才能持续与恐怖力量对抗。

在漫威世界里,不止一个超级英雄都说过这样一句话:

With graet power comes great responsibility.
能力越大,责任越大

——完——

点击阅读原文