微软 AI 不分非洲人和阿拉伯人,写错新闻惹怒明星

脸盲症又称「人脸部识别障碍」,一般表现为看不清别人的脸,或者对别人的脸型失去辨认能力。近日微软的 AI 编辑也患上了脸盲症,在区分阿拉伯裔和非洲人问题上,栽了跟头。

5 月 28 日微软宣布将于 6 月底裁撤近 80 名外包编辑,由 AI 负责接下来的 MSN 新闻抓取、排版和配图等工作。

然而仅在公布裁撤人类编辑的消息 1 周后,AI 编辑就犯了脸盲症,在一篇关于歌手 Jade Thirlwall 的文章中,配图却用成了女团另一个成员 Leigh-Anne Pinnock 的照片

MSN 在当天关于 Jade 的报道中错误地使用了 Leigh 的照片

Jade 和 Leigh 同为英国知名女团 Little Mix 成员,在这篇文章中,流行歌手 Jade 分享了自己曾受种族歧视的经历。

而 AI 在寻找配图的时候,却把黑皮肤的 Leigh 跟阿拉伯裔的 Jade 弄混了

领跑英国女团,大奖拿到手软

Little Mix 是知名英国女团,成立于 2011 年,由 Jade Thirlwall、Perrie Edwards、Leigh-Anne Pinnock 和 Jesy Nelson 组成。

Little Mix 乐队成员出席活动合影 Jade(左三,阿拉伯裔)及 Leigh(右一,非裔) 

该乐队在年青一代中具有极高知名度,曾获 Global Awards 最佳团体、最佳歌曲,MTV 欧洲音乐奖最佳英国、爱尔兰艺人奖等多项国际大奖,在多家媒体报道中频繁出现,据维基百科统计,其专辑和单曲全球销量已经超过 5000 万张。

其中 Jade 有四分之一的埃及血统和四分之一的也门血统,是一个阿拉伯裔混血儿,而 Leigh 则是团队中的唯一黑人女性。

当事人喊话 MSN,能不能长点心

针对此次微软 AI 配图错误的乌龙事件,Jade 公开在自己的 Instagram Story 上 @MSN,表达自己的不满。

Jade Thirlwall 发声截图

“ @MSN 如果你要复制粘贴其他精准媒体的文章,先确保你选对了配图啊”

Jade 还表示,Leigh 和自己被认错的情况时有发生,这让她感觉很不爽,她甚至发问,在只有 4 个人的乐队里,正确区分两个不同肤色的女人,有那么难么?

微软 AI 编辑刚上岗就捅娄子

据《卫报》报道,早在上月 28、29 日,50 名微软新闻制作人(News Producer)被告知,其雇佣合同在 6 月 30 日到期后,将不再续签。

这些人都是通过外部机构聘用的「合同工」,此外还有 27 位英国 PA Media 的新闻编辑也收到了同样的通知。

这些合同制编辑主要负责在 MSN 网站及 Edge 浏览器上维护其新闻主页,进行新闻审核、位置排版、替换标题图片等。

AI 进入新闻行业,取代从事简单编辑工作的人工

一位前员工透露,在接下来的工作中,AI 将取代这些编辑职能,而直接受雇于微软的全职新闻制作人(News Producer),将不会受此次裁员的影响。

微软紧急下令:看紧 AI,别什么文章都爬

事后,微软官方发言人表示,团队在发现 AI 配图错误后,第一时间更换了图片并关闭了该功能。

而时下种族主义抗议声在欧美各国此起彼伏,歌手 Jade  正是声援 BlackLivesMatter 活动的众多明星之一。 

Jade 在 Ins 声援 BlackLivesMatter

当下时局也让微软非常紧张,并表示 Now is not the time to be making mistakes。但是 AI 偏见由来已久,目前并没有行之有效的方法能阻止偏见的产生。

鉴于 MSN 所有新闻均为 AI 抓取,没有原创,据《卫报》报道称,微软已经对 MSN 剩下的人类员工发出警告,一旦发现 AI 自动爬取关于此次配图错误的负面报道,需要第一时间人为删除相应的文章。

当然,即使人为删除文章,AI 也有可能驳回人类编辑的决定,并试图再次发布……

—— 完 ——