내용을 한눈에 보기:심층 합성 서비스는 사용자 요구를 충족하고 사용자 경험을 개선하는 반면, 일부 비양심적인 사람들이 불법 정보를 제작, 복사, 게시, 배포하고, 다른 사람의 명예와 평판을 비방하고 훼손하고, 다른 사람을 사칭하여 사기를 치는 등 불법 행위를 저지르는 데 이용되기도 합니다. 이제 이 기술에 대한 관리 규정이 마침내 발표되었습니다.

키워드:딥페이크 딥합성 규제   

최근 중국 인터넷정보관리국은 '인터넷정보서비스 심층통합관리규정'을 발표했는데, 이 규정은 중국 인터넷정보관리국의 심사 승인을 거쳐 공업정보화부, 공안부의 승인을 거쳐 2023년 1월 10일부터 시행된다고 밝혔다.

신발이 도착했고, 딥 합성 기술이 틈새를 메우는 데 사용되었습니다.

실제로 중국 인터넷정보판공실은 올해 1월 초 '인터넷정보서비스 심층집적 관리규정(초안)'을 발표하고 대중의 의견을 공개적으로 수렴했습니다. 11개월 만에 마침내 초안이 발효되었습니다.최근 큰 진전을 이루고 있는 ChatGPT가 국내 개발이 보류될 수도 있습니다.

이번에 정식으로 발표된 관리 규정에서는 심층합성기술의 적용범위와 사용규격을 더욱 명확히 했습니다.텍스트, 이미지, 오디오, 비디오 등 다양한 방식으로 관련 기술을 다룹니다.

관리규정은 일반 규정 외에도 데이터 및 기술 관리 기준, 감독 및 검사, 법적 책임 등에 대한 보다 자세한 사양과 설명을 제공합니다. 이 기사에서는 몇 가지 주요 조항을 나열해보겠습니다.

허위사실 생산 및 유포 금지 

심층 합성 서비스 제공자와 이용자는 심층 합성 서비스를 이용하여 허위 뉴스 정보를 제작, 복사, 게시 또는 유포해서는 안 됩니다. 심층합성 서비스를 기반으로 제작 및 발표된 뉴스정보를 전재하는 경우, 인터넷 뉴스정보원단위에서 발표된 뉴스정보를 법률에 따라 전재해야 합니다.

심층합성 기술을 활용하려면 실명인증이 필요하다 

심층합성 서비스 제공자는 심층합성 서비스 이용자의 실제 신원정보를 휴대전화번호, 신분증번호, 통일사회신용코드 또는 국가온라인신원인증 공공서비스를 기반으로 법률에 따라 인증하여야 합니다.실제 신원정보를 인증하지 않은 심층합성 서비스 이용자에게는 정보공개 서비스를 제공할 수 없습니다.

여러 개인정보가 포함된 경우 별도의 동의가 필요합니다. 

심층 합성 서비스 제공자와 기술 지원자는 훈련 데이터 관리를 강화하고 훈련 데이터의 보안을 보장하기 위해 필요한 조치를 취해야 합니다. 훈련 데이터에 개인정보가 포함되어 있는 경우, 개인정보 보호에 관한 관련 규정을 준수해야 합니다.

얼굴, 음성 및 기타 생체 정보 편집 기능을 제공하는 심층 합성 서비스 제공자 및 기술 지원자심층 합성 서비스를 이용하는 사람은 법률에 따라 편집 대상자에게 그 사실을 알리고 별도로 동의를 받아야 합니다.

심층 합성 서비스를 사용하여 생성되거나 편집된 콘텐츠는 눈에 띄게 표시되어야 합니다. 

Deep Synthesis 서비스를 사용하여 생성되거나 편집된 정보 콘텐츠의 경우,사용자 사용에 영향을 미치지 않는 로고를 추가하기 위해 기술적 조치를 취해야 한다고 규정되어 있습니다.그리고 법률, 행정법규 및 관련 국가 규정에 따라 로그 정보를 보관합니다.

심층 합성 서비스 제공자는 대중에게 혼란이나 오해를 일으킬 수 있는 다음과 같은 심층 합성 서비스를 제공합니다.생성되거나 편집된 정보 내용은 합리적인 위치와 구역에 눈에 띄게 표시되어야 합니다.대중에게 심층 합성에 대한 경각심을 주기 위해:

(1) 자연인이 텍스트를 생성하거나 편집하도록 시뮬레이션하는 지능형 대화, 지능형 쓰기 또는 기타 서비스.

(2) 합성된 인간 음성이나 모방 음성 등의 음성을 생성하거나 개인의 정체성 특성을 크게 변경하는 편집 서비스.

(3) 얼굴 생성, 얼굴 교체, 얼굴 조작, 자세 조작 등 사람의 이미지나 영상을 생성하거나 개인의 정체성 특징을 크게 변경하는 편집 서비스.

(IV) 몰입형 시뮬레이션 장면의 생성 또는 편집 서비스

(5) 기타 정보내용을 생성하거나 중대한 변경을 가져오는 기능을 갖는 서비스

심층합성 서비스 제공자가 전항에 명시된 서비스 외에 심층합성 서비스를 제공하는 경우,눈에 띄는 마킹 기능을 제공해야 하며, 심층 합성 서비스 사용자에게 눈에 띄는 마킹을 할 수 있다는 사실을 알려야 합니다.

불만 및 신고 포털 개선, 프로세스 표준화 및 피드백 시간 제한 

심층 합성 서비스 제공자는 사용자 항소, 대중의 불만 및 신고를 위한 편리한 포털을 구축하고, 처리 절차와 피드백 기한을 공개하며, 처리 결과를 신속하게 접수, 처리하고 피드백해야 합니다.

"인터넷 정보 서비스의 심층적 통합 관리에 관한 규정"을 완성합니다.

심층 합성 기술 거버넌스로 가는 길은 길고 험난하다 

최근 몇 년 동안,심층적 합성 콘텐츠의 양이 폭발적으로 늘어났습니다.청화대학교 인공지능연구소는 여러 기관과 협력하여 '딥 합성 10대 트렌드 보고서(2022)'를 발표했습니다.

보고서는 2021년에 새롭게 공개된 딥 합성 영상의 수가 2017년보다 많다고 지적합니다.성장률이 10배를 넘었습니다.여기에는 영화, 텔레비전, 음악, 과학 및 기술 교육, 생활, 엔터테인먼트, 정보 등 다양한 분야가 포함됩니다.

심층적인 합성 콘텐츠의 양은 엄청나고 식별하기 어렵습니다.국내외적으로 감독 및 관리 메커니즘을 확립하고 개선하려는 시도가 많이 있어 왔습니다.

2019년 11월,중국 인터넷정보판공실, 문화관광부, 국가광전총국이 공동으로 발표한 '온라인 시청각 정보 서비스 관리 규정'에는 "딥러닝, 가상현실 등을 기반으로 한 신기술 및 응용 프로그램을 이용하여 허위 뉴스 정보를 제작, 발표 또는 유포해서는 안 된다"는 내용이 명시되어 있습니다.

2019년 12월중국 사이버공간 관리국은 '네트워크 정보 콘텐츠 생태 거버넌스 규정'을 통과시키고 공표했는데, 이 규정은 딥러닝과 가상현실 기술을 사용하여 불법 활동에 참여하는 것을 금지합니다.

2020년 12월중국공산당 중앙위원회는 '법치사회 건설 실시강령(2020~2025)'을 발표했는데, 여기에는 딥페이크 등 신기술에 대한 표준화된 관리방법을 제정하고 개선할 것이 요구되어 있습니다.

또한,미국과 유럽연합도 심층 합성 기술과 관련된 여러 법률과 규정을 발표했습니다.

2019년 12월미국 하원은 "2020 회계연도 국방권한법"을 통과시켜, 정부가 국가 간, 조직적, 정치적 목적을 가진 딥페이크 허위 정보 활동에 관해 의회에 보고하도록 요구했습니다.

유럽연합은 기술 대기업들에게 딥페이크와의 싸움을 강화하기 위한 조치를 취할 것을 공개적으로 요구했으며, 그렇지 않을 경우 전 세계 매출의 최대 6%에 달하는 막대한 벌금을 부과할 것이라고 밝혔습니다.

출시 후 일주일도 안 돼서 강제로 매장에서 퇴출된 ZAO APP부터 진짜 오바마와 가짜 오바마, 개미까지,심층 합성 기술은 끊임없이 발전하고 있으며, 정책과 규정도 시대에 맞춰 발전해야 합니다.

심층합성기술의 합법적, 합리적, 효과적인 활용을 촉진함으로써만,심층합성 기술이 가져올 위험을 적극적으로 예방하고 해결해야만 인터넷 정보 서비스의 건전한 발전을 촉진하고, 사이버공간의 건강한 생태계를 유지할 수 있습니다.