マイクロソフトのAIはアフリカ人とアラブ人を区別せず、間違ったニュースを書いて有名人を怒らせる

「顔認識障害」としても知られる相貌失認は、一般に、他人の顔を見ることができない、または他人の顔を認識する能力を失うという形で現れます。最近、マイクロソフトのAI編集者も相貌失認に悩まされ、アラブ人とアフリカ人の区別が困難になった。

Microsoftは5月28日、6月末までに80人近くの外注編集者を解雇し、その後のMSNニュースのクローリング、植字、イラスト作業はAIが担当することになると発表した。

しかし、人間の編集者の解雇のニュースが発表されてからわずか1週間後、AI編集者は顔面失明症に悩まされました。歌手のジェイド・サールウォールに関する記事に添付されていた写真は、ガールズグループのもう一人のメンバーであるリー＝アン・ピノックの写真だった。

ジェイドとリーはどちらもイギリスの有名なガールズグループ「リトル・ミックス」のメンバーです この記事では、ポップシンガーのジェイドが人種的プロファイリングを受けた経験を共有しました。

AIが一致する写真を探していたとき、浅黒い肌のリーとアラブ系アメリカ人のジェイドを混同した。。

英国を代表するガールズグループ、そっと大賞を獲得

リトル・ミックスは、2011年に結成されたイギリスの有名なガールズ・グループで、ジェイド・サールウォール、ペリー・エドワーズ、リー＝アン・ピノック、ジェシー・ネルソンで構成されています。

このバンドは若い世代の間で非常によく知られており、グローバル アワードのベスト グループ賞とベスト ソング賞、MTV ヨーロッパ ミュージック アワードのベスト ブリティッシュ アンド アイルランド アーティスト賞など、多くの国際的な賞を受賞しており、多くのメディアでも頻繁に取り上げられています。ウィキペディアの統計によると、アルバムとシングルの世界的な売上は 5,000 万枚を超えています。

このうち、ジェイドの4分の1はエジプト人、4分の1はイエメン人だ。はアラブ人の混血で、リーはチームの唯一の黒人女性です。

関係者からMSNに電話がありましたが、もう少し気を付けてもらえますか？

Microsoft AI による画像のマッチングが間違っているというこのウーロン事件を受けて、Jade は自身の Instagram ストーリー @MSN で公に不満を表明しました。

「@MSN 他の正確なメディアから記事をコピーして貼り付ける場合は、最初に正しい画像を選択していることを確認してください。」

ジェイドはまた、リーと自分自身がよく間違えられ、とても不快に感じたと言い、こう尋ねたこともある。たった4人しかいないバンドの中で、肌の色の異なる2人の女性を正しく区別するのはそんなに難しいことなのでしょうか？

マイクロソフトのAI編集者は、その仕事に就いた直後に自分を馬鹿にした

Guardian によると、先月 28 日と 29 日の時点で、Microsoft ニュース プロデューサー 50 人は、雇用契約が 6 月 30 日に期限切れになると更新されないと通告されました。

これらの人々は外部機関を通じて雇用された「契約社員」です。英国のPAメディアのさらに27人のニュース編集者も同様の通知を受け取った。

これらの契約編集者は主に、MSN Web サイトおよび Edge ブラウザ上のニュース ホームページの保守、ニュースのレビュー、位置レイアウト、タイトル画像の置き換えなどを担当します。

元従業員は、次回作ではこうした編集機能をAIが代替し、マイクロソフトに直接雇用されているフルタイムのニュースプロデューサー（ニュースプロデューサー）は今回の人員削減の影響を受けないと明かした。

マイクロソフトが緊急命令を発令：AIに細心の注意を払い、すべての記事をクロールしないよう

その後、マイクロソフトの公式広報担当者は、チームがAI画像のエラーを発見した後、すぐに画像を変更し、機能をオフにしたと述べた。

今、欧米各国で人種差別デモが相次いでいる。歌手のジェイドは、BlackLivesMatter 運動を支援する多くのスターの 1 人です。 

現在の状況はマイクロソフトも非常に緊張していると述べた。 今は間違いを犯している場合ではありません 。しかし、AI のバイアスには長い歴史があり、現時点ではバイアスを防ぐ効果的な方法はありません。

すべての MSN ニュースは AI によってキャプチャされ、オリジナルのコンテンツがないことを考慮して、Microsoft が MSN に残っている人間の従業員に警告を発したとガーディアン紙が報じました。AI がこの誤った画像に関する否定的なレポートを自動的にクロールしていることが判明したら、対応する記事をできるだけ早く手動で削除する必要があります。

もちろん、人間が記事を削除したとしても、AIが人間の編集者の決定を無視して再度公開しようとする可能性はありますが…。

- 以上 -