OpenAI 拿出 100 万美金,招聘更多黑人促进种族平权

最近,「Black Lives Matter」运动已经波及科技圈,众多科技公司也相继对此事做出表态。OpenAI 最新公布一项决定,投入 100 万美元,大力招聘黑人成员,以帮助实现种族平等。 

近日,美国的种族平权运动声势浩大,众多科技公司也加入其中。继谷歌、Go 宣布废除 blacklist/whitelist 等命名之后,OpenAI 也拿出了最新的支持平权政策。

OpenAI 豪掷 100 万刀,促进种族平权

6 月 9 日,OpenAI 在推特发长文表示,希望做些什么来帮助黑人平等(Black equity)。最终决定,将扩大学者计划,招聘大量黑人社区成员,并投入 100 万美元,为少数群体提供教育资源和指导。

此项宣布引起了网友的激烈讨论

其推特全文中文翻译如下:

在 OpenAI,我们一直在讨论我们能做些什么来帮助黑人平等。现在,我们宣布,将通过直接捐款和扩大我们的学者计划来进行帮助。

我们承诺投入 100 万美元,该计划为 AI 行业里,那些没有被充分代表的少数群体,提供教育资源和指导。

目前,我们正在大幅增加学者的数量,我们会大量招募黑人社区的成员。如果所有的名额都给了他们,那我们会很兴奋。我们会在接下来的几周分享下一节学者课的细节。

在 OpenAI,我们的目标是,确保在未来,先进的人工智能系统是为造福每个人而建立的。这意味着我们也需要更加努力地使我们的员工多样化。到目前为止,我们在这方面做得还不够好。

对于一家公司来说,仅仅是一个非种族主义的公司,或者是在 twitter 上发布「黑人的命也重要」(Black Lives Matter) 是不够的。我们想要积极地反种族主义,为了做到这一点,我们需要在共享空间和机会方面做出积极的纠正。我们承诺会一直进行这项工作。

这篇推文下面,有网友表示,这只是一个公关行为,没有什么实际意义:

也有网友对这项举措感到高兴,认为 OpenAI 迈出了可喜的一步:

 增加成员多样性,消除种族与技术偏见

今年已是 OpenAI  成立以来的第 5 个年头。2017 年,OpenAI 开发的 AI 在 Dota2 国际邀请赛 1v1 比赛中,打败了世界顶级玩家 Dendi,自此一举成名。

之后公司还发布了多项研究成果,引起业界广泛关注。2019 年 7 月,OpenAI 获得微软投资的 10 亿美元,与之联手开发云端 AI 技术。

这家硅谷明星公司一路愈战愈勇,团队也从最初的 9 人,发展到 100 多人。

不过我们注意到,团队的四名高管都是白人。而且,从最新公开的团队合影来看绝大多数都是白人或亚裔,在领英搜索一番也可得到验证。

2019 年 7 月,公司团队及其家人户外活动合影

所以,这样缺乏多样性的团队,是否会让技术带上种族歧视色彩呢?

我们都知道,在 AI 越来越多被应用之后,也暴露出更多关于偏见的问题。

两年前,麻省理工学院和微软的一项研究证明,人脸识别软件对肤色较浅的男性进行识别,准确率超过 99%;但对于肤色较黑的女性,该软件可能有多达三分之一的时间出错。

研究报告中指出,对于肤色更深的女性系统更容易将其识别为男性(图中百分比为识别正确率)

领英的一位工程师也曾提到,之前亚马逊的人工智能招聘系统在推荐人选时,会男性优先;

而领英的智能算法在向用户推荐工作时,多为男性求职者推荐高收入职业,而很少向女性推荐高收入职业等。

因此,暂且抛开训练数据的问题,仅就开发者而言,如果某项技术背后的开发者全部都是男性,或者种族主义者,不免会带进一些主观色彩或刻板印象。

事实上,OpenAI 也早已注意到这个问题。据了解,公司每年都会就 AI 技术的偏见、安全性、危险性等问题进行讨论。

OpenAI 在其 GPT-2 的报告中介绍了如何解决语言模型的偏见问题

前段时间,OpenAI 在一篇关于改善 AI 可验证性的博文中提到,开发者应该为人工智能系统设定偏见与安全性的奖励,以加强对 AI 系统的激励与审查。

而这次,OpenAI 又直接公开宣布要招聘更多的黑人成员,看起来在消除种族与技术的偏见问题上,态度还是很坚决的。

但至于是否真的说到做到,还是只是当前迎合大众的一个公关行为,也只能等时间给出答案了。

能烧钱、不差钱的 OpenAI 

顺便提一句,100 万美金对于 OpenAI 是什么概念呢?OpenAI 自成立以来,研发的项目都需要巨大的成本。

仅仅拿其中的一项研究来说,其 2019 年 3 月发布的 GPT-2 ,一个模型拥有 15 亿参数,使用 256 块 TPU v3 训练,每小时都要花费 2048 美元。

根据之前一项报道,2016 年,OpenAI 员工只有 50 多人的时候,薪水和福利支出就达到了 700 万美元。

所以,捐出 100 万美元,对 OpenAI 来说,不算什么奢侈的支出。

—— 完 ——