마이크로소프트 AI, 아프리카인과 아랍인 구별 못해 잘못된 뉴스 작성, 유명인 화나게 해
얼굴인식장애라고도 불리는 얼굴실인증은 일반적으로 다른 사람의 얼굴을 명확하게 볼 수 없거나 다른 사람의 얼굴 모양을 인식하는 능력을 상실하는 것을 특징으로 합니다. 최근 마이크로소프트의 AI 편집기도 안면인식 장애를 겪었고 아랍인과 아프리카인을 구별하지 못했습니다.
5월 28일, 마이크로소프트는 6월 말까지 아웃소싱 편집자 80여 명을 해고하고, 이후 MSN 뉴스 크롤링, 조판, 일러스트레이션 작업은 AI가 맡게 될 것이라고 발표했습니다.
그러나 인간 편집자의 해고가 발표된 지 불과 일주일 만에 AI 편집자는 안면 실명을 겪게 되었습니다.가수 제이드 서월에 대한 기사에서 사용된 사진은 걸 그룹의 또 다른 멤버인 리앤 피녹의 사진이었습니다..
제이드와 리는 둘 다 유명한 영국 걸그룹 리틀 믹스의 멤버입니다. 이 기사에서 팝 가수 제이드는 인종 차별에 대한 자신의 경험을 공유했습니다.
AI가 일치하는 사진을 찾던 중, 검은 피부의 리와 아랍계 미국인 제이드를 혼동했습니다..
영국 걸그룹을 이끌며 수많은 상을 수상
리틀 믹스는 2011년에 결성된 영국의 유명 걸그룹으로, 제이드 서월, 페리 에드워즈, 리앤 피녹, 제시 넬슨으로 구성되어 있습니다.
이 밴드는 젊은 세대 사이에서 매우 유명하며 글로벌 어워드 최우수 그룹, 최우수 노래상, MTV 유럽 뮤직 어워드 최우수 영국 및 아일랜드 아티스트상을 포함하여 많은 국제적인 상을 수상했으며, 많은 언론 보도에 자주 등장했습니다. 위키피디아 통계에 따르면, 이 앨범과 싱글은 전 세계적으로 5,000만 장 이상 판매되었습니다.
옥은 4분의 1이 이집트산이고 4분의 1이 예멘산입니다.는 아랍계 혼혈이고, 리는 팀에서 유일한 흑인 여성입니다.
해당 사건에 연루된 사람이 MSN에 전화해서, 좀 더 조심해 줄 수 있냐고 물었습니다.
Microsoft AI가 사진을 매칭하는 데 실수를 하자, Jade는 자신의 Instagram 스토리에 @MSN을 공개적으로 태그하여 불만을 표시했습니다.
@MSN 다른 정확한 미디어에서 기사를 복사하여 붙여넣으려면 먼저 올바른 사진을 선택해야 합니다.
제이드는 또한 리와 자신이 종종 서로 오해를 받아 매우 불편함을 느꼈다고 말했습니다. 그녀는 심지어 이렇게 물었습니다.단 4명으로 구성된 밴드에서 피부색이 다른 두 여성을 정확히 구별하는 게 그렇게 어렵나요?
마이크로소프트 AI 편집기, 취임 직후 실수 발생
가디언에 따르면, 지난달 28일과 29일 초에 마이크로소프트 뉴스 프로듀서 50명에게 6월 30일 만료되는 고용 계약이 갱신되지 않을 것이라는 통보가 전달됐습니다.
이들은 외부 기관을 통해 고용된 "계약직 근로자"입니다.또한 영국의 PA미디어의 뉴스 편집자 27명도 같은 통지를 받았습니다.
이러한 계약 편집자는 주로 MSN 웹사이트와 Edge 브라우저의 뉴스 홈페이지 유지 관리, 뉴스 검토, 위치 레이아웃, 타이틀 이미지 교체 등의 업무를 담당합니다.
전직 직원은 다음 작업에서는 AI가 편집 기능을 대체할 것이며, 마이크로소프트에 직접 고용된 정규직 뉴스 제작자들은 이번 정리 해고의 영향을 받지 않을 것이라고 밝혔습니다.
Microsoft는 긴급 명령을 내렸습니다. AI를 면밀히 관찰하고 모든 기사를 크롤링하지 마십시오.
이후 마이크로소프트 공식 대변인은 해당 팀이 AI 이미지 매칭 오류를 발견한 후 즉시 이미지를 교체하고 해당 기능을 해제했다고 밝혔습니다.
현재 유럽과 미국에서는 인종차별에 반대하는 시위가 잇따라 일어나고 있습니다.가수 제이드는 BlackLivesMatter 운동에 대한 지지를 표명한 많은 스타 중 한 명입니다.
현재 상황은 마이크로소프트도 매우 불안하게 만들고 있다고 밝혔습니다. 지금은 실수를 할 때가 아니다 . 하지만 AI 편향은 오랜 역사를 가지고 있으며, 현재로선 이를 방지할 효과적인 방법은 없습니다.
모든 MSN 뉴스가 AI에 의해 수집되고 어떤 것도 독창적이지 않다는 점을 감안하여 The Guardian은 Microsoft가 MSN의 나머지 인간 직원들에게 경고를 발표했다고 보도했습니다.AI가 이 이미지 오류에 대한 부정적인 보고서를 자동으로 크롤링한다는 사실이 발견되면, 해당 기사를 가능한 한 빨리 수동으로 삭제해야 합니다.
물론, 기사를 수동으로 삭제하더라도 AI가 인간 편집자의 결정을 뒤집고 다시 게시를 시도할 가능성이 있습니다...
-- 위에--