Contenu en un coup d'œil :Bien que les services de synthèse profonde répondent aux besoins des utilisateurs et améliorent leur expérience, ils sont également utilisés par certaines personnes sans scrupules pour produire, copier, publier et diffuser des informations illégales, calomnier et diffamer la réputation et l'honneur d'autrui, se faire passer pour d'autres afin de commettre des fraudes et d'autres actes illégaux. Désormais, les réglementations de gestion de cette technologie ont finalement été publiées.

Mots-clés:Régulation de la synthèse profonde Deepfake   

Récemment, l'Administration du cyberespace de Chine a publié le « Règlement sur la gestion de l'intégration approfondie des services d'information sur Internet », indiquant que le règlement a été examiné et approuvé par l'Administration du cyberespace de Chine, et approuvé par le ministère de l'Industrie et des Technologies de l'information et le ministère de la Sécurité publique, et entrera en vigueur le 10 janvier 2023.

La chaussure a atterri et la technologie de synthèse profonde a été utilisée pour combler les lacunes

En fait, dès janvier de cette année, l'Administration du cyberespace de Chine a publié le « Règlement sur la gestion de l'intégration profonde des services d'information sur Internet (projet pour commentaires) » et a sollicité publiquement l'opinion publique. Après 11 mois, le projet est enfin entré en vigueur.ChatGPT, qui a fait de grands progrès récemment, pourrait voir son développement dans le pays suspendu.

Le règlement de gestion officiellement publié cette fois-ci clarifie davantage la portée et les spécifications d'utilisation de la technologie de synthèse profonde.Couvre les technologies pertinentes dans de multiples modalités telles que le texte, les images, l'audio et la vidéo.

Outre les dispositions générales, le règlement de gestion fournit également des spécifications et des explications plus détaillées sur les normes de gestion des données et techniques, la supervision et l'inspection, ainsi que les responsabilités légales. Cet article énumérera certaines des dispositions clés.

Interdiction de produire et de diffuser de fausses nouvelles 

Les fournisseurs et les utilisateurs de services de synthèse profonde ne doivent pas utiliser les services de synthèse profonde pour produire, copier, publier ou diffuser de fausses informations. Lors de la réimpression d'informations d'actualité produites et diffusées sur la base de services de synthèse approfondie, les informations d'actualité diffusées par l'unité source d'informations d'actualité sur Internet doivent être réimprimées conformément à la loi.

L'utilisation de la technologie de synthèse profonde nécessite une authentification par nom réel 

Les fournisseurs de services de synthèse profonde doivent authentifier les informations d'identité réelles des utilisateurs de services de synthèse profonde conformément à la loi sur la base des numéros de téléphone portable, des numéros de documents d'identité, des codes de crédit social unifiés ou des services publics nationaux d'authentification d'identité en ligne.Les services de publication d'informations ne doivent pas être fournis aux utilisateurs de services de synthèse profonde qui n'ont pas authentifié leurs informations d'identité réelles.

Lorsqu'il s'agit de plusieurs informations personnelles, un consentement distinct est requis 

Les fournisseurs de services de synthèse profonde et les supports techniques doivent renforcer la gestion des données de formation et prendre les mesures nécessaires pour garantir la sécurité des données de formation ; si les données de formation contiennent des informations personnelles, elles doivent être conformes à la réglementation en vigueur en matière de protection des informations personnelles.

Fournisseurs de services de synthèse profonde et supports techniques qui fournissent des fonctions d'édition de visage, de voix et d'autres informations biométriques,Les utilisateurs de services de synthèse profonde doivent être invités à informer les personnes concernées par l’édition, conformément à la loi, et à obtenir leur consentement séparé.

Le contenu généré ou édité à l'aide de services de synthèse profonde doit être clairement indiqué. 

Pour les contenus d'information générés ou édités à l'aide du service Deep Synthesis,Il est stipulé que des mesures techniques doivent être prises pour ajouter des logos qui n'affectent pas l'utilisation par l'utilisateur.Et conservez les informations du journal conformément aux lois, aux réglementations administratives et aux réglementations nationales pertinentes.

Le fournisseur de services de synthèse profonde fournit les services de synthèse profonde suivants, ce qui peut entraîner une confusion ou un malentendu parmi le public :Le contenu des informations générées ou éditées doit être signalé de manière visible dans des endroits et des zones raisonnables.Pour alerter le public sur la synthèse profonde :

(1) Conversation intelligente, écriture intelligente ou autres services qui simulent une personne physique pour générer ou modifier du texte ;

(2) Services d’édition qui génèrent des voix telles que des voix humaines synthétisées ou des voix d’imitation, ou qui modifient de manière significative les caractéristiques d’identité personnelle ;

(3) Services d'édition qui génèrent des images ou des vidéos de personnes, telles que la génération de visages, le remplacement de visages, la manipulation de visages, la manipulation de postures ou qui modifient de manière significative les caractéristiques d'identité personnelle ;

(IV) Services de génération ou d’édition de scènes simulées immersives ;

(5) Autres services ayant pour fonction de générer ou de modifier de manière significative le contenu de l’information.

Lorsqu'un prestataire de services de synthèse profonde fournit des services de synthèse profonde autres que ceux spécifiés au paragraphe précédent,Une fonction de marquage importante doit être fournie et les utilisateurs de services de synthèse profonde doivent être informés qu'ils peuvent effectuer des marquages importants.

Améliorer le portail de réclamation et de signalement, normaliser le processus et le délai de retour d'information 

Les fournisseurs de services de synthèse approfondie doivent mettre en place des portails pratiques pour les appels des utilisateurs, les plaintes et les rapports du public, publier les procédures de traitement et les délais de retour d'information, et accepter, traiter et renvoyer rapidement les résultats du traitement.

Compléter le « Règlement sur la gestion de l’intégration profonde des services d’information sur Internet ».

La route vers une gouvernance technologique de synthèse profonde est longue et ardue 

Au cours des dernières années,La quantité de contenu de synthèse profonde a explosé.L'Institut d'intelligence artificielle de l'Université Tsinghua a collaboré avec plusieurs institutions pour publier le « Top Ten Trends in Deep Synthesis Report (2022) ».

Le rapport souligne que le nombre de nouvelles vidéos de synthèse profonde publiées en 2021 est supérieur à celui de 2017.Le taux de croissance a été multiplié par plus de 10.Cela implique de nombreux domaines, notamment le cinéma, la télévision, la musique, l’éducation scientifique et technologique, la vie, le divertissement, l’information, etc.

La quantité de contenu synthétique profond est énorme et difficile à identifier.De nombreuses tentatives ont été faites pour établir et améliorer les mécanismes de supervision et de gestion au niveau national et à l’étranger.

En novembre 2019,L'Administration du cyberespace de Chine, le ministère de la Culture et du Tourisme et l'Administration nationale de la radio et de la télévision ont publié conjointement le « Règlement sur la gestion des services d'information audio et vidéo en ligne », qui stipule clairement que « les nouvelles technologies et applications basées sur l'apprentissage profond, la réalité virtuelle, etc. ne doivent pas être utilisées pour produire, publier ou diffuser de fausses informations ».

Décembre 2019L'Administration du cyberespace de Chine a adopté et promulgué le « Règlement sur la gouvernance écologique du contenu des informations du réseau », qui interdit l'utilisation des technologies d'apprentissage profond et de réalité virtuelle pour se livrer à des activités illégales.

Décembre 2020Le Comité central du Parti communiste chinois a publié le « Plan de mise en œuvre pour la construction d'une société fondée sur l'État de droit (2020-2025) », qui exige la formulation et l'amélioration de méthodes de gestion standardisées pour les nouvelles technologies telles que les deep fakes.

aussi,Les États-Unis et l’Union européenne ont également publié un certain nombre de lois et de réglementations pertinentes concernant la technologie de synthèse profonde.

Décembre 2019La Chambre des représentants des États-Unis a adopté la « Loi d'autorisation de la défense nationale pour l'année fiscale 2020 », exigeant que le gouvernement fasse rapport au pouvoir législatif sur les activités de désinformation Deepfake impliquant des objectifs transnationaux, organisés et politiques.

L'Union européenne a publiquement demandé aux géants de la technologie de prendre des mesures pour intensifier la lutte contre les Deepfakes, sous peine d'amendes colossales, pouvant atteindre 6% de leur chiffre d'affaires mondial.

De l'application ZAO qui a été forcée d'être retirée des rayons moins d'une semaine après son lancement, au vrai et au faux Obama, en passant par les fourmis,La technologie de synthèse profonde évolue constamment et les politiques et réglementations doivent s’adapter au rythme du temps.

Ce n’est qu’en promouvant l’utilisation légale, raisonnable et efficace de la technologie de synthèse profonde,Ce n’est qu’en prévenant et en résolvant activement les risques liés à la technologie de synthèse profonde que nous pourrons promouvoir le développement sain des services d’information sur Internet et maintenir une bonne écologie du cyberespace.