拒为警方提供人脸识别的企业,只有亚马逊是认真的

在各大科技公司纷纷对种族平权运动表态之际,IBM 首先宣告退出人脸识别业务。紧接着,亚马逊也开始站队,在「政治正确」和利益之间选择了前者,宣布暂停向警察提供面部识别工具 Rekognition。

早在 2016 年,亚马逊就在其云服务平台 AWS 上,启动了图像及面部识别服务 Rekognition,并将其用于执法部门。

但此后,Rekognition 引起众多民权组织的不满。因为多项研究显示,面部识别技术可能存在种族与性别歧视。比如,有色人种更容易被匹配为罪犯。美国公民自由联盟(ACLU)还曾拿出证据。

2018 年 7 月 28 日,ACLU 经过测试,发现该软件将 535 名美国国会议员中的 28 名误判为罪犯。

被误判的 28 名国会议员中有 11 名是有色人种

关于 Rekognition 的争议与抗议近年来一直存在,但亚马逊之前都是我行我素,坚持与政府和警察部门合作。

而近日,种族平权运动愈演愈烈,谷歌、苹果、IBM 等各大科技巨头纷纷表态支持种族平权,一向倔强的亚马逊,也选择了向政治正确妥协。

Rekognition:警察禁用,公益事业除外

就在本周三,亚马逊宣布:暂停警察使用亚马逊的图像和面部识别技术「Rekognition」,为期一年。

亚马逊在官方博客宣布此项决定

不过,他们将允许 Thorn、国际失踪与被剥削儿童中心和 Marinus Analytics 等组织,继续使用亚马逊的 Rekognition 技术,来帮助解救人口贩运受害者,帮助失踪儿童与家人团聚。

注:Thorn 和 Marinus Analytics 分别为通过技术来保护儿童免受性虐待和打击人口贩卖的公司。

亚马逊在公告中,也一改以往强硬的口气,表示主张政府应该规范技术的道德使用。暂缓一年的时间,是为了给国会足够时间来设定规则。原文翻译如下:

我们主张政府应该实施更有力的法规来规范面部识别技术的道德使用。

最近几天,国会似乎准备迎接这一挑战。我们希望这一年的暂缓令,能给国会足够的时间,来实施适当的规则,如果有需要,我们会随时准备提供帮助。

抗议多年未果,终因种族平权运动暂停

虽然在公告中,亚马逊并未提及暂停 Rekognition 的原因,但结合当下时局,不难猜测,应该是与乔治·弗洛伊德引起的种族平权运动有关。

毕竟,Rekognition 因带有种族偏见的监视技术,遭到各种民权组织的强烈反对,已经不是一次两次了。

华盛顿县警长办公室副主任展示机构如何使用该软件

我们将近两年关于 Recognition 引起的争议与抗议活动时间线整理如下:

2018 年 5 月 21 日

包括 ACLU 在内的二十多家组织联盟,联名致信亚马逊 CEO Jeff Bezos,要求亚马逊停止向政府、警察销售面部识别系统。

ACLU 注意到,在分析女性和有色人种的面孔时,该技术尤其不准确。更严重的是,该技术有被滥用的可能,特别是针对移民和有色人种的滥用。

2018 年 6 月 22 日

亚马逊的内部员工也看不过去了,发起抗议。

包括高级工程师在内的 100 多名员工,给贝佐斯写了一封公开信,要求公司停止向美国执法部门出售 Rekognition 技术,这封公开信已经得到 40 多个民权组织签署。

2019 年 3 月 26 日

来自多所高校的 78 名 AI 研究人员,包括 2018 年图灵奖获得者 Yoshua Bengio 在内,又联名写信给亚马逊,呼吁亚马逊停止将 Recognition 出售给执法部门,因为没有防止滥用的立法和保障措施。

2019 年 10 月 21 日

马萨诸塞州 ACLU 的一项测试发现,Rekognition 将 27 名职业运动员错误地与公开的罪犯照片数据库匹配。

因此,ACLU 要求在没有保护措施的情况下,政府不应使用此技术。马萨诸塞州应该暂停面部监视技术。

面对内部和外部的多方抗议,亚马逊的回应却十分强硬,称 「我们不能因为技术可能被滥用就限制其进步,难道我们因为别人可能用计算机做坏事,就不让顾客买计算机吗?」

而现在,眼看各大科技巨头已经表态站政治正确立场了,亚马逊也不得不暂且放弃自己的利益,抗议者们终于迎来胜利。

IBM、微软,集体放弃人脸识别

6 月 8 日,IBM 是第一个站出来,宣布退出面部识别业务的科技巨头。

之后,6 月 10 日、11 日,亚马逊和微软也紧跟步伐,宣布叫停人脸识别业务。但相同的结果背后,目的可能也是各有不同。具体各自心里是什么打算,我们也不得而知。

我们将重点信息整理如下,以供参考:

不过话说,对于亚马逊这次的决定,网友却并不买账,推特上更多的还是讽刺的声音:

@Bryant Hall:翻译:我们希望所有人一年后都忘记这件事,然后我们继续捞钱。

@RPTOPE~1:贝佐斯多么勇敢地停止了这项业务,因为这段时间带口罩,人脸识别也没啥用了。

@rdwrt:给他足够的时间来收集新的数据,并重新训练系统如何识别戴着防护用具的人们……

看来,这人心不是那么好收买的啊。

—— 完 ——