딥페이크가 미국 대선에 영향을 미칠 줄 알았는데 네티즌들이 너무 걱정했던 것 같다

2020년 미국 대선 전, 사람들은 가짜 뉴스와 가짜 영상이 선거 결과에 영향을 미칠 수 있다는 우려에 가득 차 있었습니다. 이제 선거의 예비 결과가 발표되면서 모두가 이전에 우려했던 일이 일어나지 않은 것 같습니다.

전 세계의 이목을 모은 미국 대선은 미국 현지 시각으로 11월 7일에 마침내 중간 결과를 도출했습니다. 4일간의 치열한 투표 집계 끝에 바이든은 270명이 넘는 선거인단을 확보했고, 몇몇 주요 미국 언론은 바이든을 승자로 선언했습니다.

선거가 시작되기 훨씬 전부터 많은 사람들은 딥페이크 영상이 2020년 미국 선거에서 주요 역할을 할 것이며 선거에 영향을 미칠 것이라고 예측했습니다. 많은 소셜 플랫폼과 미국 하원조차도 딥페이크에 미리 대처할 전략을 모색하고 있습니다.

2020년 선거가 끝났고, 전체 선거 과정을 돌이켜보면, 모두가 걱정했던 것처럼 딥페이크가 정말로 미국 선거에 영향을 미쳤을까요?

자신을 아름답게 꾸미고 상대를 비난하는 거야? 트럼프는 딥페이크를 좋아한다

딥페이크 기술은 특히 정치 분야에서 처음 등장한 이래로 오용될 운명이었던 것 같습니다.

미국 비즈니스 인텔리전스 기업인 크레오포인트(Creopoint)가 9월에 발표한 보고서에 따르면 미국 대선이 다가오면서인터넷에 게시하다가짜 영상의 수는 작년 대비 20배나 증가했습니다.

그 중에서도 가짜 영상의 주요 타깃은 유명인과 기업 임원들이다. Creopoint는 다음과 같이 말했습니다:해당 플랫폼에서 발견된 가짜 영상의 60%는 정치인을 표적으로 삼았습니다.

미국 정치를 표적으로 삼은 이러한 가짜 영상은 일반적으로 한쪽 정당을 미화하고 다른 쪽 정당을 비난합니다. 이런 유형의 영상은 사람들에게 가장 깊은 인상을 남길 가능성이 높고, 전파하기도 쉽기 때문에 궁극적으로 유권자들의 후보자 판단에 영향을 미칠 수 있습니다.

  트럼프는 영광스럽다 

올해 5월, 트위터 사용자 @mad_liberals가 딥페이크 영상을 게시했습니다. 영상 속 트럼프는 공상과학 영화 '인디펜던스 데이'의 한 장면에 합성된 모습입니다. 트럼프는 연극에서 토마스 휘트모어 대통령으로 "변신"하여 "우리는 생존을 위해 싸워야 합니다"라는 연설을 하며 영웅처럼 보였다. 청중도 트럼프를 지지하는 백악관 팀으로 "대체"되었습니다.

트럼프 대통령은 당시 이 가짜 영상을 기꺼이 리트윗했고, 해당 영상은 그날 밤 1,000만 번 이상 재생되었습니다.

  바이든은 비난을 받는다 

트럼프 대통령은 경쟁자 바이든을 비난하는 딥페이크 영상을 공유하는 데도 매우 적극적이다.

올해 4월, 트럼프는 트위터에서 바이든이 혀를 내밀고 있는 가짜 영상을 리트윗하며 "슬로피 조"라는 캡션을 달아 바이든의 이미지를 손상시켰습니다.

하지만 트럼프가 자신의 반대자들을 비난하는 이런 가짜 영상이나 이미지를 공유한 것이 항상 자신에게 좋은 영향을 미친 것은 아닙니다. 일부 유권자들은 실망스러운 의견을 밝혔습니다. "진짜 대통령이라면 그런 이상한 내용을 전달하지 않을 겁니다."

사실, 어느 정도 판단력이 있는 사람이라면 이런 가짜 영상 내용을 믿지 않을 것입니다. 하지만 특정 집단의 사람들이 여전히 혼란스러워하고 오도될 수 있다는 점은 피하기 어렵고, 이는 결국 총선에서 그들의 투표 선택에 영향을 미칠 수 있습니다.

언론, 딥페이크 영상 공개하며 네티즌들에게 심각한 결과 경고

2018년 4월, 미국 배우 조던 필은 미국의 온라인 뉴스 미디어 회사인 버즈피드와 협업하여 AI 기술을 사용하여 오바마 연설의 가짜 영상을 만들었습니다.

이 영상은 필의 연설을 소스 영상으로 사용하고, 그 움직임을 오바마의 이미지로 옮깁니다.

영상 속 오바마의 얼굴 표정과 행동은 매우 자연스러워 보이며, 얼굴을 바꿀 흔적은 전혀 없습니다. 만약 프로듀서 조던 필과 버즈피드가 직접 진실을 밝히지 않았더라면, 많은 사람들이 속았을 것입니다.

제작진은 Adobe After Effects와 AI 얼굴 변환 도구인 FakeApp을 사용해 영상을 만드는 데 총 60시간밖에 걸리지 않았다고 밝혔습니다.

그들은 이 영상을 만들어서 공개했다고 말했습니다.이는 모든 사람에게 인터넷에서 보거나 듣는 것, 특히 딥페이크 영상에 대한 내용을 믿지 말라고 호소하고 상기시키는 것입니다.

AI 기술과 다양한 무료 얼굴변환 및 더빙 소프트웨어의 도움으로 영상 위조의 문턱이 낮아졌고, 일부 기술 전문가들은 이러한 기술이 초래할 수 있는 결과를 두려워하고 있습니다.

"누구든지 이 기술을 이용해 사실적인 가짜 영상을 만들어 허위 정보를 퍼뜨리거나, 심지어 언론과 정당이 이를 이용해 허위 선전을 한다면 그 결과는 재앙이 될 것입니다."

이는 근거 없는 걱정이 아닙니다.

올해 2월, 인도 델리 주 의회 선거에서 바라티야 자나타당(BJP) 후보 중 한 명인 마노즈 티와리는 비디오 사기 기술을 사용하여 자신이 모르는 언어로 "말"하여 소수 언어권 유권자들의 표를 끌어들이고자 했습니다.

이 영상은 좋은 성과를 거두었습니다. 대부분의 사람들은 이에 대해 아무런 단점도 발견하지 못했기 때문에 처음에는 의심하지 않았을 뿐만 아니라 반응도 매우 열광적이어서 후보에게 더 많은 표를 얻게 되었습니다.

결국, 주의 깊은 네티즌들은 여전히 영상의 진위성을 의심했습니다. 이후 기술 전문 매체 Vice는 해당 영상이 실제로 딥페이크 영상이며, 인도 인민당이 직접 제작하고 홍보 회사와 협업한 것이라고 확인했습니다(자세한 내용은 관련 기사 참조)."인도 의회 선거, 후보자들이 딥페이크를 이용해 방언 영상을 조작해 유권자들의 표를 끌어냈다").

따라서 위에서 언급한 미국의 비즈니스 인텔리전스 회사인 크레오포인트의 CEO인 장클로드 골든스타인은 이번 미국 선거에 대해 깊은 우려를 표명한 적이 있습니다.

그는 이렇게 말했다:"가짜 영상은 여러분이 상상하는 것보다 훨씬 더 많고, 더욱 무서운 것은 이런 영상을 만드는 기술과 도구가 영상을 해독하는 속도보다 빠르게 발전하고 있다는 것입니다." 골든스타인은 "대선은 가짜 영상 선거라고 불러야 한다"고 말하기도 했습니다.

딥페이크의 폐해를 없애는 방법: 탐지 및 법규 강화

다행히도 딥페이크는 올해 미국 대선에 아무런 문제를 일으키지 않았을 뿐만 아니라, 조연도 되지 않았습니다. 일부 전문가들은 그 이유가 크게 두 가지로 분석했습니다.

  소셜 플랫폼, 비오는 날 대비: 정밀 타격 

선거를 앞둔 몇 달 동안 주요 소셜 미디어 플랫폼은 콘텐츠를 검토하고 식별하며 가짜 영상과 같은 허위 콘텐츠를 즉시 삭제하기 위해 더 많은 공개 조치를 취했습니다.

페이스북:

지난 9월, Facebook은 딥페이크 감지 챌린지,개발된 도구를 사용하여 정부, 언론, 기업 등이 만든 가짜 영상을 감지하는 것이 목적입니다.

올해 1월, 페이스북은 선거 전에 딥페이크 영상과 오해의 소지가 있는 정보가 담긴 콘텐츠를 삭제하겠다는 내용의 블로그 게시물을 게시했습니다.

지저귀다:

올해 2월, 트위터는 합성 및 조작된 미디어에 대한 새로운 정책을 발표하며, 편집, 자르기, 더빙 또는 실제 사람의 허구적 이미지를 포함하여 심각하게 변경되거나 위조된 미디어 콘텐츠를 단속하겠다고 밝혔습니다. Twitter는 이러한 콘텐츠에 경고 라벨을 표시합니다.

예를 들어,이전에 트럼프를 지지하는 한 사용자가 딥페이크 기술을 사용해 바이든을 약간 미친 사람처럼 보이게 만드는 영상을 게시했습니다.그는 "바이든이 미국 대통령이 되는 걸 상상이나 할 수 있겠나? 그는 간단한 질문에도 답하지 못하고, 간단한 발언조차 못 한다"고 말했다. 이후 트위터에서 경고 라벨이 붙었습니다.

  과학 연구 기관은 탐지 알고리즘을 개선하기 위해 적극적으로 노력하고 있습니다. 

딥페이크로 인해 선거가 방해받는 것을 막기 위해, 주요 연구 기관과 기술 대기업들도 딥페이크 콘텐츠를 퇴치하는 알고리즘을 적극적으로 개발하고 있습니다.

Google:

작년 9월, 구글은 다양한 공개 알고리즘을 사용하여 생성된 AI 영상 3,000개를 담은 오픈소스 데이터베이스를 공개했습니다. Google은 Deepfake 자동 감지 도구를 훈련하고 테스트하는 데 도움이 되는 많은 수의 사례를 만드는 목표로 이 데이터 세트를 만들었습니다.

인텔 & 빙엄턴 대학교:

올해 9월, 빙엄턴 대학교와 인텔의 연구원들은 알고리즘을 개발했습니다.이 제품은 영상 속 하트비트 신호를 이용해 영상이 가짜인지 아닌지를 감지할 수 있으며, 정확도는 최대 90%라고 주장합니다.그뿐만 아니라, 이 알고리즘은 딥페이크 영상의 특정 세대 모델(예: Face2Face, FaceSwap 등)도 발견할 수 있습니다.

마이크로소프트:

올해 9월, 선거 전날, 마이크로소프트는 "비디오 인증기"라는 딥페이크 감지 도구를 출시했습니다. 이 도구는 신뢰도 점수나 조작 및 수정 "백분율"을 표시하여 비디오가 딥페이크 콘텐츠인지 여부를 나타냅니다.

따라서 소셜 및 미디어 플랫폼이 가짜 콘텐츠를 식별하는 능력이 점점 더 향상됨에 따라, 이런 동영상은 결국 초기에 제거될 것입니다.

동시에 기존의 법적 격차도 점차 개선되고 있으며, 영상을 위조한 사람에게 부정적인 결과에 대한 책임을 묻게 되면 모든 것이 명확해질 것입니다.

예를 들어, 올해 5월에 투표를 통해 통과된 우리나라 민법은 영상을 변조하기 위해 기술을 사용하는 것은 초상권 침해라고 명시하고 있으며, 이는 민법 제1019조에도 명시되어 있습니다(참고)."AI 얼굴변조, 음성 변조 등 민법 개정안에 명시돼").

제1019조 [초상권의 소극적 효력] 어떠한 단체나 개인도 초상권을 비방, 훼손, 훼손할 수 없다. 또는 정보기술을 이용해 타인의 초상권을 위조하거나 침해하는 경우.누구든지 초상권자의 동의 없이 초상권자의 초상을 제작, 이용 또는 공개하여서는 아니 됩니다. 다만, 법률에 특별한 규정이 있는 경우에는 그러하지 아니합니다.

기술과 법률의 이중 감독 하에 가짜 영상 제작자와 유포자는 자신의 행동에 대해 더 큰 대가를 치러야 할 수도 있습니다. 그들이 정치에 참여하고 싶어하더라도, 그렇게 쉽지는 않을 수도 있다.

이 시점에서 본 기사의 시작 부분에서 제기된 질문은 이미 답변되었습니다. 딥페이크는 올해 미국 대선에 아무런 파장을 일으키지 못했고, 더 나아가 선거에 개입하지도 않았기 때문에, 네티즌들의 이전 우려는 지나친 것이었습니다. 하지만 앞으로도 관련 감독을 느슨하게 해서는 안 되며, 기술이 악행을 저지르는 것을 항상 막아야 합니다.

-- 위에--