AI가 차이잉원을 비롯한 수백 명의 유명인의 얼굴을 대체했습니다. 대만 인터넷 스타 샤오위 체포

지난달, 대만의 유명 유튜브 스타 '샤오위'가 음란물 유포 및 명예훼손 혐의로 정식 체포되어 조사를 위해 신베이 지방 검찰청으로 이송됐습니다.

경찰은 다음과 같이 발표했습니다.샤오위와 다른 용의자들은 딥페이크의 AI 얼굴 바꾸기 기술을 이용해 8,000명 이상의 회원을 모집해 약 1,100만 대만 달러(약 250만 위안)의 불법 수익을 챙겼습니다. 얼굴 바꾸기 피해자는 100명이 넘었는데, 모두 인터넷, 영화, 텔레비전, 정계에서 활동하는 유명인이었습니다.

샤오위는 얼굴을 바꾸고, 샤오잉은 차갑게 보인다

이번에 샤오위는 텔레그램 그룹에서 얼굴을 바꾼 영상을 판매했다는 이유로 섬 주민들에게 신고를 받고 체포됐습니다. 이러한 딥페이크 얼굴 변조 영상에는 중국 대만 지역의 지도자인 차이잉원도 포함되어 있습니다.

1995년에 태어난 샤오위(본명 주위천)는 대만성 이란현에 있는 세인트 메리 의과대학을 졸업했습니다. 그녀는 대만 아이돌 그룹 TPI의 연습생이었다. 그녀는 2016년에 유튜브에 첫 영상을 올렸습니다. 초기 콘텐츠는 주로 언박싱 리뷰로 구성된 정통적인 내용이었습니다.

이후, 10대 청중층을 겨냥해 그림 스타일이 점차 엉뚱해지고, 언어는 날카롭고 대담해졌으며, 언박싱 영상은 점점 더 기괴해졌고 심지어는 결론이 없어졌습니다.

샤오위는 유튜브 팔로워 120만 명과 조회수 6억 뷰를 보유하고 있어 대만의 톱 인터넷 스타로 자리매김했습니다.하지만 작년 4월 한 영상이 심각한 사회적 논란을 일으킨 이후, 샤오위의 계정은 몇 달 동안 비활성화되었습니다.

얼굴 바꾸기 논란이 일자 차이잉원은 소셜 미디어에 다음과 같은 글을 올렸습니다."기술의 사용은 인류에게 더 나은 삶을 만들어 주기 위한 것이지, 타인에게 해를 끼치기 위한 것이 아닙니다. 이러한 피해자는 당신과 제가 아끼는 사람들일 수도 있고, 우리의 친척이나 친구일 수도 있습니다. 우리는 이런 일이 일어나는 것을 가만히 앉아서 지켜볼 수는 없습니다."그리고 대만 법무부에 AI 얼굴변환 기술에 대한 법적 정책을 업데이트할 것을 촉구했습니다.

글로벌 AI 얼굴 교환 관련 법률/사례 연구

• 중국

중화인민공화국 민법 제1019조에 따르면, "어떠한 조직이나 개인도 비방, 훼손 또는 기술적 정보 수단을 이용한 위조 등의 방법으로 타인의 초상권을 침해해서는 안 됩니다." (제4편 인격권 제4장 초상권)

• 미국

현재 딥페이크 기술을 표적으로 삼는 법안을 추진 중인 미국 상원 국토안보 및 정부사무위원회 외에도, 미국 각 주에서도 관련 주 차원의 법률을 잇따라 도입했습니다.

텍사스와 캘리포니아가 도입했습니다 "선거 기간 중 유권자 투표를 방해하기 위한 기만적인 영상의 공개를 금지하라"규정.

• 일본

일본은 아직 딥페이크 유형 콘텐츠의 확산을 제한하기 위한 공식적인 규정을 도입하지 않았지만, 최근 일본 최초의 AI 얼굴 변조 범죄 사건에 대한 판결을 내렸습니다.

작년에는 구마모토 대학 2학년인 하야시다 타쿠미가 AI 얼굴 바꾸기 영상을 제작하고 유포한 혐의로 체포되었습니다. 하야시다 타쿠미는 2019년 12월부터 2020년 7월까지 자신이 운영하는 유료 웹사이트에 AI로 여성 아티스트 두 명의 얼굴을 바꾸는 외설적인 영상을 여러 개 업로드했고, 관련 아티스트들의 회사로부터 소송을 당했습니다.

올해 9월, 도쿄지방법원은 피고인 하야시다 타쿠미에게 저작권법 위반 및 명예훼손 혐의로 유죄를 선고하고, 그에게 징역 2년(3년간 집행유예)과 벌금 100만엔(약 5만 위안)을 선고했습니다.'

추신

AI 기술 적용에 대한 전 세계적 수요가 계속 증가함에 따라 노출되는 보안 및 개인정보 보호 문제도 늘어나고 있으며, 광범위한 영향을 미치는 심각한 범죄도 발생하고 있습니다.

많은 국가와 지역에서는 기술 범죄를 억제하기 위해 가능한 한 빨리 법률을 제정하고 있습니다.하지만 기술 자체가 사전 예방적이고 은밀하기 때문에 모든 범죄 행위를 적절한 시기에 막기는 어렵습니다. 유일한 억제 효과는 후속 처벌을 통해서만 달성될 수 있다.

동시에, 기술의 발전으로 기술 범죄의 문턱은 계속해서 낮아질 것입니다.인터넷 스타 샤오위는 학력은 낮지만 팀을 구성하고 영상을 제작해 빠르게 퍼뜨리고 단시간 내에 수익을 낼 수 있었습니다.

20년 전만 해도 사진 편집은 아직 대중화되지 않았으며, 악의적인 사진 편집은 언론에서 '이식'이라 불리며 사실을 혼란스럽게 하는 행위로 여겨졌습니다. 요즘은 누구나 스마트폰과 컴퓨터를 이용해 소프트웨어를 통해 사진과 영상을 쉽게 수정하고 꾸밀 수 있습니다. 한때 인기를 끌었던 얼굴변환 소프트웨어인 ZAO도 한 번의 클릭으로 얼굴을 바꿀 수 있다는 이유로 긴급히 판매가 중단되었습니다.

기술은 사람들의 손에 기술을 쥐어줄 것이고, 누구나 판도라의 상자를 가질 수 있다.법은 단지 사회적 관용의 최저선일 뿐입니다. 도덕성이 행동을 제한할 수 없을 때, 법을 대중화하고 대중이 기술을 합리적으로 사용하도록 안내하는 것이 지금 가장 시급한 문제가 될 것입니다.