Facebook 四栋办公楼紧急疏散，恐怖主义复仇还是乌龙？
社交媒体已经成为恐怖组织主要的宣传阵地，这也令 Facebook，Twitter 等社交媒体头痛不已。为了打击这些恐怖分子和极端分子，他们会利用 AI 技术及时地自动删除相关帖子。但因此，它们也与恐怖分子结下了恩怨……
根据外媒报道， 太平洋时间 7 月 1 日上午 11 点左右，位于加州 Menlo Park 的 Facebook 办公室里，收到一件「可疑包裹」，常规检测中检测到沙林气体（一种致命神经性毒气），怀疑遭到恐怖袭击，闹得人心惶惶。
目前，联邦调查局（FBI）已经被请求协助此案。
Facebook 总部疑发生沙林毒气袭击
据加州 Menlo Park 警方发言人说，纽约警察局收到有关 Facebook 加州 Menlo Park 办公园区遭遇炸弹威胁的匿名举报，并于下午 4:30 左右向地方当局发出警报。
报道中称，Facebook 收到的可疑包裹是一个 「大型邮件袋」，里面有很多邮件，经过一个 Menlo Park 工厂的邮件扫描机后，被测试为沙林阳性。虽然有可能是误报，但不排除其危险性。
由于担心邮件设施中的包装中含有神经毒剂沙林，Facebook 的硅谷园区四个大楼的人员于周二全面撤离。
沙林是一种极易挥发的神经毒剂，因为它能够从液体蒸发到气体。沙林清澈，无色，无味，无味。人们通过皮肤，眼睛或呼吸来接触沙林，一滴针眼大小的沙林就能导致一名成人很快死亡。
这并不是 Facebook 第一次收到恐怖威胁！
在 2018 年当地时间 12 月 11 日下午，美国警方周二因爆炸威胁疏散了 Facebook 总部园区的一座建筑物，但持续数小时的搜查并未发现存在爆炸装置的迹象，后续又解除了警报。
Facebook 遭遇的这些事件，跟他们在网络上，对抗暴力不和谐言论有很大的关系。而 Facebook 作为社交媒体的流量大户，在着手和处理网络环境上，可谓是花费了巨大的力气，甚至还可能冒着生命的危险。
Facebook 上只要出现任何赞扬、支持或是代表全世界散播仇恨、种族主义的极端组织言论，都必须将其删除。因此站在政府立场的 Facebook，却成为了这些组织的攻击对象。
一段小故事：极端观念的形成
在 2014 年前后，正是 ISIS 崛起的那几年，也正是社交媒体、移动互联网信息爆炸的时期。
虽然他们倡导的主张极端保守，但 ISIS 却使用丰富的传播手段，比如推特、脸书和油管这些工具，来宣传极端思想，以此吸引全世界各地的支持者加入他们。
他们甚至还知道如何打造自己的人设，除了发布残暴的刑罚视频，他们还会充分讨好年轻网友。
甚至打造了一个 「圣战猫咪 Islamic State Cats」的账号，专门发布他们生活中的小猫照片和视频，直到这些账号，被推特和脸书一一关闭。
在 2018 年第一季度，Facebook 一共删除了 2888.37 万条帖子，同时关闭和删除了大约 5.83 亿个虚假账户，这一块主要是指恐怖主义，和仇恨言论的相关信息和账户。
巨头的权力：悄悄抹去不和谐的痕迹
Facebook 表示，在屏蔽和删除帖子的过程中，已经越来越少的依赖人力，目前 99.5 % 与恐怖主义相关的帖子，是由 Facebook 通过人工智能的技术手段找到的。
其中一种技术就是图像识别与匹配，一旦用户发布的图片疑似涉嫌，Facebook 会通过算法实现自动匹配，找出图片是否和 ISIS 的宣传视频有关，或者能否和已删除的极端图片或视频相关联，进而采取封禁措施。
Facebook 的技术团队曾在博客《Rosetta: Understanding text in images and videos with machine learning》中，描述了图像识别工具 Rosetta 是如何运行的。
Rosetta 使用 Faster R-CNN 检测字符，再通过 CTC（Connectionist Temporal Classification）损失的 ResNet-18 完全卷积模型，来进行文字识别，并用 LSTM 增强准确性。
此外，Facebook 还进行着文本分析研究，对网站上恐怖分子可能使用的语言进行解析，一旦发布的内容涉及恐怖主义，立刻就会做出相应的对策。
除了日益强大了的 AI 审核工具，Facebook 也有强大的人工审核团队，他们的安全团队分为社区运营和社区诚信两支队伍。社区诚信团队主要负责建立举报-反应机制的自动化工具。
目前，这支人工审查团队已经达到两万多人，以 Facebook 目前二十亿活跃用户来算，每名安全人员需覆盖十万用户。
能力越大，责任越大
我们所接触的各种资讯，都是通过层层筛过的算法之后，所构建起来的一种景象，Facebook 、 Twitter 、微博、抖音等平台，每天都屏蔽和下架了大量涉及恐怖、反动、色情等负面的消息内容，不可避免触及到一些组织的利益。
何况在这个世界上，来自于不同的政府、组织、民族、文化的力量都在干预着信息的呈现。
前有 ISIS 袭击法国巴黎的《查理周刊》，现在有 Facebook 屡遭意外事件，技术也好，平台也好，往往宣扬自己的中立立场，但又无法让自己彻底撇清关系。在现在的世界里，好人只有力求自保，才能持续与恐怖力量对抗。
在漫威世界里，不止一个超级英雄都说过这样一句话：
With graet power comes great responsibility.
能力越大，责任越大
——完——